Veja também cuscuz.

Erro de Confiança: Relatório Tosco Feito por IA Causa Prejuízo de US$ 440 Milhões

A Deloitte, uma das maiores consultorias do mundo, anunciou que devolverá parte do pagamento recebido do governo australiano após admitir o uso de inteligência artificial (IA) generativa na elaboração de um relatório que continha diversos erros e citações inexistentes. O relatório, que custou US$ 440 mil (cerca de R$ 2,4 milhões), foi encomendado pelo Departamento de Emprego e Relações de Trabalho (DEWR) em dezembro de 2024.

O documento tinha como objetivo revisar o sistema de conformidade do órgão e sua infraestrutura de TI, responsável por automatizar penalidades aplicadas a beneficiários de programas sociais. No entanto, o relatório foi revisado e republicado após o jornal Australian Financial Review revelar a presença de “referências fantasmas” e citações imprecisas.

A Deloitte reconheceu que o relatório havia sido parcialmente produzido com apoio de um modelo de linguagem baseado no Azure OpenAI GPT-4, ferramenta licenciada pelo próprio departamento. Apesar disso, a consultoria manteve suas conclusões, afirmando que os ajustes “não impactam o conteúdo nem as recomendações do relatório”.

O caso ganhou repercussão após o pesquisador Christopher Rudge, da Universidade de Sydney, identificar “alucinações” típicas de sistemas de IA, situações em que o modelo inventa dados ou fontes. A senadora trabalhista Deborah O’Neill criticou duramente o episódio, afirmando que a Deloitte “tem um problema de inteligência humana”.

• O governo australiano afirmou que as recomendações do relatório permanecem válidas e que as correções foram limitadas a notas de rodapé e referências.
• O episódio reacende o debate sobre o uso de ferramentas de IA em relatórios técnicos e consultorias públicas, especialmente quando há risco de comprometer a precisão de informações que embasam políticas governamentais.
• A Deloitte devolverá parte do pagamento recebido do governo australiano, correspondente à última parcela do contrato.

O caso é um exemplo de como a confiança excessiva em tecnologias de IA pode levar a erros graves e prejuízos significativos. É fundamental que as empresas e governos sejam transparentes sobre o uso de IA em seus processos e garantam que as informações sejam precisas e confiáveis.

Este conteúdo pode conter links de compra.

Fonte: link