Um Caso de Desmascaramento de Alunos que Usaram IA em Prova

Um professor de história da Alcorn State University, nos Estados Unidos, encontrou uma forma criativa de identificar alunos que usaram inteligência artificial sem revisar o conteúdo gerado durante uma prova. Jason Gibson inseriu um comando oculto no enunciado da avaliação e conseguiu identificar 32 dos 35 estudantes que copiaram a questão e a enviaram para um chatbot.

As respostas entregues continham frases completamente sem sentido, revelando que o texto produzido pela IA não havia sido lido antes da entrega. A atividade consistia em uma redação sobre a Revolução Industrial enviada de forma on-line. O professor escondeu uma instrução usando texto branco sobre fundo branco, invisível para quem apenas lia a prova normalmente. No entanto, ao copiar todo o conteúdo para ferramentas como ChatGPT, Claude ou Gemini, os alunos também enviavam o comando secreto para a IA.

Como Funcionou a Injeção de Prompt

A instrução fazia o chatbot inserir comentários aleatórios sobre Madagascar no meio da redação. Entre os trechos apareciam frases como “Madagascar flutua de lado durante a tarde” e “Madagascar foi a um jogo de basquete usando uma torradeira”. Essa técnica é conhecida como injeção de prompt, que consiste em incluir instruções capazes de alterar o comportamento de um modelo de inteligência artificial.

• A injeção direta ocorre quando o usuário envia comandos ao chatbot para tentar contornar restrições ou modificar a resposta.
• A injeção indireta, como no caso da prova, as instruções ficam escondidas em um documento, página da web ou outro conteúdo que será processado pela IA.

Como consequência, todos os 32 alunos flagrados receberam reprovação nessa etapa da avaliação. O caso também mostra um problema que tem crescido em escolas e universidades desde a popularização da IA. Muitos professores afirmam que os alunos estão usando chatbots para fazer trabalhos e provas, o que tem mudado a forma de avaliar o aprendizado.

Este conteúdo pode conter links de compra.

Fonte: link