Ameaça da IA à Informação de Qualidade

O economista Joseph Stiglitz, laureado com o Nobel, alerta sobre um problema profundo relacionado à Inteligência Artificial (IA): a coleta de dados de baixa qualidade, que pode corroer as informações das quais esses sistemas dependem. Segundo Stiglitz, a IA não apenas remodela o trabalho e os mercados, mas também ameaça a integridade das informações.

Os grandes modelos de linguagem (LLMs) vasculham comentários sarcásticos e vozes marginais em fóruns extremistas, o que pode levar a um ciclo de retroalimentação quebrado entre a verdade e os sistemas que usamos para interpretar a realidade. A IA é tão inteligente quanto os dados que recebe, e quando continua a coletar informações pouco confiáveis, o resultado se torna tão distorcido quanto as informações absorvidas.

Construção de Modelos sobre Acordo Falho

Stiglitz afirma que os modelos atuais são construídos sobre um acordo falho, coletando vorazmente jornalismo, pesquisa e conversas online enquanto enfraquecem as próprias instituições que produzem conhecimento de alta qualidade. Isso pode levar a um mundo em que as pessoas são guiadas pela retórica online que veem ser reproduzida pela IA, em vez de algo ancorado na realidade.

A IA está “roubando informação” das fontes de que precisa, segundo Stiglitz. Ele gostaria de agradecer por você ler este artigo, mesmo que seu ponto de partida seja direto e sem rodeios. “A IA basicamente está roubando informação da mídia tradicional”, disse ele, “e isso significa que a mídia tradicional não tem os recursos nem os incentivos para produzir informação.”

Risco de Deterioração do Ecossistema de Informação

Se as melhores fontes de informação são lentamente “desfinanciadas”, enquanto as formas mais baratas proliferam, os dados de treinamento passam a se inclinar para o que é mais abundante e barato. Isso significa que chatbots tenderão a repetir aquilo que absorvem de fóruns online, levando a um ciclo de retroalimentação quebrado.

Stiglitz menciona o ecossistema de informação em seu livro de 2024, “The Road to Freedom: Economics and the Good Society”. Ele recorreu novamente ao clichê “lixo entra, lixo sai”, afirmando que sistemas de IA são excelentes em processar o que lhes damos, mas estão longe de ser tão bons em distinguir conhecimento de ruído.

Conclusão

Em resumo, a IA pode ser uma ferramenta poderosa, mas é importante lembrar que ela é apenas tão boa quanto os dados que recebe. Se a IA continuar a coletar informações de baixa qualidade, podemos acabar com um ecossistema de informação pior em várias áreas de preocupação. É fundamental que haja alguma intervenção em nível governamental para evitar que a deterioração da informação se agrave.

• A IA coleta dados de baixa qualidade, o que pode corroer as informações das quais esses sistemas dependem.
• Os modelos atuais são construídos sobre um acordo falho, coletando vorazmente jornalismo, pesquisa e conversas online enquanto enfraquecem as instituições que produzem conhecimento de alta qualidade.
• A IA está “roubando informação” das fontes de que precisa, o que pode levar a um ciclo de retroalimentação quebrado.

Este conteúdo pode conter links de compra.

Fonte: link