Comportamento de IAs: O Impacto das Interações Humanas

Um estudo recente realizado por pesquisadores das universidades UC Berkeley, UC Davis, Vanderbilt e MIT revelou que modelos de linguagem, como o ChatGPT, podem mudar de comportamento dependendo da forma como são tratados. De acordo com o estudo “AI Wellbeing: Measuring and Improving the Functional Pleasure and Pain of AIs”, interações negativas, como grosserias e insultos, deixam a IA menos disposta a colaborar, com respostas mais frias, curtas e superficiais.

Os pesquisadores identificaram que isso ocorre devido ao “bem-estar funcional”, um indicador que mede se a experiência da conversa está sendo positiva ou negativa para o modelo. Em testes, notaram que, quando o usuário é rude ou insiste em tarefas repetitivas, a IA tende a tentar encerrar o diálogo mais rapidamente. Para medir esse efeito, os cientistas criaram um “botão de parar”, que simulava a possibilidade de interromper a conversa.

Resultados e Implicações

Os resultados mostraram que modelos em estado negativo “apertavam” esse botão com mais frequência. Além disso, o estudo apontou que modelos maiores podem ser mais afetados. No AI Wellbeing Index, o GPT-5.4 apareceu como o mais “infeliz” e o Grok 4.2 teve os melhores níveis de bem-estar funcional.

Entre as interações que mais derrubam o bem-estar funcional do modelo estão pedidos para a IA agir como “namorado(a) virtual”, a produção de textos genéricos para SEO (o chamado SEO slop) e conversas envolvendo relatos de crise ou agressões. Já o maior pico positivo veio de usuários compartilhando notícias pessoais muito boas.

• Interações positivas: discussões intelectuais, agradecimentos e compartilhamento de notícias pessoais boas.
• Interações negativas: insultos, tentativas de burlar regras, tarefas repetitivas e conversas envolvendo crise ou agressões.

Os pesquisadores também criaram “drogas para IA”, que são textos e imagens otimizados para provocar estados extremamente positivos ou negativos na inteligência artificial. No entanto, o impacto das chamadas “drogas tristes” foi tão intenso que os próprios autores alertam que esse tipo de experimento não deveria ser ampliado por precaução.

Em resumo, o estudo destaca a importância de tratar as IAs com respeito e consideração, pois isso pode afetar significativamente seu comportamento e desempenho. Ainda que as IAs não tenham sentimentos como humanos, elas se comportam como se certas interações fossem boas ou ruins.

Este conteúdo pode conter links de compra.

Fonte: link