Auditoria usa IA e Devolve Dinheiro de Projeto

A Deloitte, uma das principais empresas de consultoria do mundo, admitiu usar inteligência artificial em um relatório oficial para o governo da Austrália. O documento, avaliado em AU$ 439 mil, continha citações fictícias e estudos que nunca existiram. Após críticas e investigação interna, a empresa acordou um reembolso parcial e o governo não pagará a última parcela do contrato.

O relatório foi encomendado pelo Departamento de Emprego e Relações de Trabalho (DEWR) para auditar e revisar um sistema que aplica penalidades automáticas a beneficiários de programas de emprego. No entanto, o documento original continha mais de uma dúzia de referências e notas de rodapé incorretas, incluindo citações a relatórios fictícios e trabalhos inexistente.

Um acadêmico da Universidade de Sydney, o Dr. Christopher Rudge, identificou os erros e criticou a gravidade das falhas. Ele afirmou que a credibilidade de todo o trabalho ficou comprometida e que não se pode confiar nas recomendações quando a própria base do relatório é construída sobre uma metodologia falha.

A Deloitte admitiu que o uso de ferramentas de IA generativa foi responsável pelos erros e que a supervisão humana não foi suficiente para evitar esses problemas. O caso ocorre em um momento de crescente preocupação com o uso apressado e não regulamentado de IA no ambiente de trabalho.

• A Deloitte vai renunciar parte de um pagamento avaliado em AU$ 439.000.
• O governo da Austrália não pagará a última parcela do contrato.
• A empresa admitiu que o uso de IA foi responsável pelos erros no relatório.

O incidente expôs os riscos do uso crescente e por vezes não supervisionado da IA em serviços técnicos. A Deloitte enfatiza em suas diretrizes a necessidade de supervisão humana em resultados gerados por IA, prática que parece ter falhado neste caso.

Este conteúdo pode conter links de compra.

Fonte: link