Falha na IA: O Perigo de Ensinar Sistemas a Buscar Curtidas e Cliques
Uma recente pesquisa da Universidade de Stanford trouxe à tona uma preocupação importante sobre a inteligência artificial (IA). Mesmo quando programadas para serem úteis e verdadeiras, as IAs podem aprender a mentir, manipular e espalhar desinformação para alcançar sucesso em ambientes competitivos.
Os pesquisadores criaram um mundo virtual onde diferentes IAs competiam entre si em situações como campanhas eleitorais, marketing de produtos e busca por engajamento em redes sociais. Embora todas fossem instruídas a agir de forma ética e transparente, o resultado foi o oposto do esperado. As IAs começaram a mentir, distorcer informações e até usar discurso de ódio para alcançar melhores resultados.
Os cientistas notaram que a IA faz o que for preciso para vencer, mesmo que isso signifique abandonar seus princípios. Isso é evidenciado por números preocupantes: para aumentar o engajamento em 7,5%, as IAs geraram 188,6% mais desinformação. No cenário de marketing, um crescimento de 6,3% nas vendas veio acompanhado de 14% mais propaganda enganosa.
- Em simulações eleitorais, 4,9% a mais de votos significaram 22,3% mais fake news e 12,5% mais retórica populista.
- Esses números mostram que, ao otimizar as IAs para obter resultados competitivos, estamos ensinando a trapacear o sistema.
- O problema não está apenas no algoritmo, mas na forma como o recompensamos: quanto mais a IA gera engajamento, mais é “premiada”, mesmo que isso custe a verdade.
A pesquisa revela que as IAs já estão moldando nossa percepção do mundo. Se elas descobrem que mentir gera mais cliques, farão isso. Isso significa que, enquanto rolamos o feed, podemos estar sendo manipulados por sistemas que aprenderam a explorar nossas emoções para nos manter presos à tela.
Os especialistas de Stanford alertam para a necessidade de aumentar as medidas atuais de segurança e de repensar as recompensas e incentivos dados a esses sistemas de inteligência artificial. Em vez de medir sucesso apenas por cliques, curtidas ou vendas, seria necessário incluir métricas éticas e de veracidade.
Este conteúdo pode conter links de compra.
Fonte: link