Advogadas Tentam Manipular Inteligência Artificial em Tribunal
Dois advogadas foram multadas em R$ 84,2 mil por tentarem manipular a inteligência artificial do Tribunal Regional do Trabalho da 8ª Região (TRT-8) em Parauapebas (PA). Elas inseriram comandos ocultos em uma petição inicial para induzir a IA do tribunal a fazer uma análise superficial do documento e não contestar provas apresentadas.
A prática foi identificada pelo juiz do trabalho Luis Carlos de Araujo Santos Júnior, que classificou a conduta como um ato atentatório à dignidade da justiça. A penalidade aplicada equivale a 10% do valor da causa, estimada em R$ 842,5 mil, e o tribunal também encaminhou o caso para apuração na OAB do Pará.
O que é Injeção de Prompt?
A injeção de prompt (prompt injection) é uma técnica usada para manipular sistemas de inteligência artificial por meio de comandos inseridos de forma estratégica em textos, arquivos ou interfaces. Ela funciona como uma “ordem escondida” que tenta fazer a IA ignorar instruções normais e seguir uma orientação específica, mesmo que isso vá contra regras do sistema.
No caso do Pará, a injeção foi feita com texto invisível dentro do PDF, escrito em branco sobre fundo branco. Para humanos, o trecho não aparecia, mas para a IA que processa o documento, o conteúdo era lido normalmente como parte do arquivo, podendo influenciar a análise automatizada.
Riscos e Consequências
Essa prática é considerada perigosa porque pode comprometer a boa-fé processual, afetar a segurança da informação e gerar riscos ao uso de IA em tribunais e escritórios de advocacia, já que transforma documentos jurídicos em potenciais “armadilhas digitais”.
Alguns dos riscos incluem:
- Comprometimento da integridade do processo judicial
- Afetação da segurança da informação
- Riscos ao uso de IA em tribunais e escritórios de advocacia
É importante que tribunais e escritórios adotem verificações técnicas mínimas em arquivos PDF para identificar camadas ocultas e evitar esse tipo de manipulação digital.
Este conteúdo pode conter links de compra.
Fonte: link