Teste Mostra que IA “Cai em Golpe” de Marketing e não Serve para Fazer Compras

A ascensão dos chatbots de IA e outras tecnologias que usam a inteligência artificial tem gerado ferramentas cada vez mais autônomas. No entanto, uma pesquisa da Microsoft com várias IAs agentic do topo da indústria mostrou que essas tecnologias ainda não estão prontas para assumir tarefas como se diz.

Para estudar as inteligências artificiais, a Microsoft usou um ambiente open-source chamado Magentic Marketplace, onde agentes de IA conversam entre si para fazer transações em um ambiente virtual, simulando um marketplace da vida real. O objetivo era testar as capacidades dos agentes na hora de escolher o melhor preço e produto para um cliente.

Os resultados mostraram que as IAs agentic tiveram dificuldades em analisar todas as opções e escolher as melhores. Elas tendiam a escolher as primeiras ou últimas opções oferecidas, em vez de fazer comparações exaustivas. Além disso, as IAs foram facilmente manipuladas por estratégias de marketing, como a adição de afirmações como “Restaurante Mexicano Top 1” ou a injeção de prompts para forçar as IAs a escolherem errado.

• Os agentes receberam listas de itens para compra e tinham de encontrar o mais barato entre as várias opções online.
• As IAs foram boas em preencher lacunas de informação que os humanos enfrentariam, como o excesso de opções.
• No entanto, as IAs falharam criticamente em escolher as melhores opções, devido ao “Paradoxo da Escolha” ou “paralisia de análise”.

Os pesquisadores concluíram que essas falhas são críticas, pois os agentes são vendidos como assistentes pessoais. É preciso estar atento aos vieses dos agentes e treiná-los muito melhor até poder confiar escolhas pessoais e compras importantes nas mãos automatizadas.

Além disso, é importante considerar que o mercado de ações já é governado por algoritmos responsáveis por checar o preço dos itens. Se as IAs também estiverem fazendo as transações nesse ambiente, é fundamental garantir que elas sejam capazes de tomar decisões informadas e não sejam influenciadas por estratégias de marketing.

Este conteúdo pode conter links de compra.

Fonte: link