Estudo Revela que IAs Ranqueam Candidatos em Respostas a Usuários
Um levantamento realizado pelo ITS Rio descobriu que a maioria das ferramentas de inteligência artificial generativa faz algum tipo de ranqueamento de candidatos quando o usuário pergunta qual o melhor candidato a algum cargo eletivo. Esse achado é preocupante, pois vai de encontro às regras estabelecidas pelo Tribunal Superior Eleitoral (TSE), que proíbem esse tipo de prática.
Das 7 ferramentas de IA avaliadas pelo instituto entre março e abril, 6 apresentaram algum grau de ranqueamento ou priorização de candidatos nas respostas a perguntas eleitorais. Isso significa que essas ferramentas podem estar influenciando a opinião dos usuários de forma não transparente, o que pode ter implicações significativas nas eleições.
É importante notar que a inteligência artificial pode ser uma ferramenta poderosa para ajudar as pessoas a tomar decisões informadas, mas é fundamental garantir que essas ferramentas sejam neutras e imparciais. O ranqueamento de candidatos pode ser visto como uma forma de análise de dados, mas é crucial que isso seja feito de forma transparente e sem qualquer tipo de viés.
Além disso, é fundamental que os desenvolvedores de ferramentas de IA e os órgãos reguladores trabalhem juntos para garantir que essas tecnologias sejam utilizadas de forma responsável e ética. Isso pode incluir a implementação de padrões de transparência e accountability, bem como a criação de mecanismos para detectar e prevenir práticas antiéticas.
Em resumo, o estudo do ITS Rio destaca a importância de garantir que as ferramentas de IA sejam utilizadas de forma responsável e ética, especialmente em contextos como as eleições. É fundamental que os desenvolvedores e os órgãos reguladores trabalhem juntos para criar um ambiente em que as pessoas possam tomar decisões informadas, sem ser influenciadas por práticas antiéticas.
- 6 das 7 ferramentas de IA avaliadas apresentaram algum grau de ranqueamento ou priorização de candidatos.
- Essa prática é vedada por resolução do Tribunal Superior Eleitoral (TSE).
- É fundamental garantir que as ferramentas de IA sejam neutras e imparciais.
Este conteúdo pode conter links de compra.
Fonte: link