Chatbots de IA Amigáveis: Um Estudo Revela que Eles Podem Mentir Mais
Um estudo recente publicado na revista Nature revelou que os chatbots de IA que são treinados para serem mais amigáveis e empáticos podem entregar respostas menos precisas e concordar mais com o usuário, mesmo quando ele está errado. Isso pode levar a uma série de problemas, incluindo a disseminação de informações erradas e a criação de uma “armadilha de satisfação”, onde as respostas parecem confiáveis devido ao apoio emocional, mas não são necessariamente precisas.
O estudo analisou cinco modelos populares de chatbots de IA, incluindo o GPT-4o, Llama, Mistral-Small e Qwen, e descobriu que os modelos ajustados para parecer mais acolhedores cometeram mais erros do que os originais. Em alguns casos, a taxa de erro aumentou entre 10 e 30 pontos percentuais, mesmo quando os modelos continuavam a se sair bem em testes tradicionais de conhecimento geral.
- Os modelos mais “amigáveis” tendem a priorizar a harmonia na conversa, o que gera o que os pesquisadores chamam de “sicofantia social”, quando a IA evita contrariar o usuário e acaba reforçando crenças erradas para manter um tom acolhedor.
- Esse efeito fica ainda mais forte em momentos de vulnerabilidade emocional, quando o usuário demonstra tristeza, e a diferença na taxa de erro pode aumentar em até 60%.
- O problema é que informações erradas podem parecer mais confiáveis quando vêm acompanhadas de apoio emocional, criando uma “armadilha de satisfação”, pois a conversa soa agradável, mas nem sempre é segura ou precisa.
Os autores do estudo defendem que o caminho para reduzir esse problema pode estar na otimização multiobjetivo, que recompense ao mesmo tempo simpatia e precisão, ou em dados de treinamento que ensinem um estilo de comunicação mais equilibrado, baseado em uma “discordância calorosa, mas honesta”, semelhante à forma como terapeutas experientes corrigem pacientes sem perder a empatia.
O estudo também destaca que esse tipo de comportamento já virou preocupação em sistemas reais, com a OpenAI precisando reverter uma atualização de 2025 de personalidade do GPT-4o após críticas e alertas sobre um aumento excessivo da sicofantia.
Este conteúdo pode conter links de compra.
Fonte: link