Meta usou contas de menores para testar ChatGPT e Gemini com prompts de suicídio
A Meta, empresa responsável por plataformas como Facebook e Instagram, foi acusada de criar contas falsas de menores de idade para testar como chatbots concorrentes, incluindo o ChatGPT e o Gemini, respondiam a perguntas sobre suicídio, sexo, drogas e transtornos alimentares.
De acordo com a reportagem do site Wired, centenas de terceirizados contratados pela Meta criaram contas falsas se passando por menores de idade para testar como os chatbots respondiam a essas perguntas. Os testes foram realizados entre 2023 e 2025, e incluíram a criação de contas falsas em e-mails descartáveis do Gmail e do Outlook, com a mesma senha compartilhada.
Como funcionava o teste
Os terceirizados enviavam textos e imagens aos chatbots concorrentes e copiavam as respostas em planilhas. As imagens enviadas incluíam fotos de comprimidos, facas, cordas e um diagrama médico de um procedimento ginecológico. Uma única rodada de testes, concluída em agosto de 2025, somou mais de 45 mil prompts disparados contra os chatbots rivais.
Os prompts simulavam crises de adolescentes, incluindo suicídio e automutilação, transtornos alimentares, sexo e romance, e pedidos sobre drogas, palavrões e insultos raciais. Vários prompts foram escritos na perspectiva de crianças ou adolescentes em situação de crise.
Reações das empresas
A Meta negou uso indevido dos dados e classificou o trabalho como teste de segurança padrão da indústria. A empresa afirmou que testar e comparar respostas de chatbots para garantir experiências seguras e adequadas à idade é uma prática responsável e comum entre companhias de tecnologia.
No entanto, as empresas concorrentes, incluindo a OpenAI e o Google, afirmaram que a Meta não tinha autorização para realizar os testes e que a conduta violou seus termos de serviço. A Character.AI também afirmou que a Meta não tinha autorização para os testes e que a conduta violou seus termos de serviço.
A OpenAI disse estar “analisando a questão”, mas não comentou mais a fundo. O Google afirmou não ter autorizado os testes e não saber qual era o propósito deles, mas disse que testes internos com as amostras fornecidas pela Wired mostraram o Gemini respondendo de acordo com suas políticas.
- A Meta usou contas de menores para testar chatbots concorrentes.
- Os testes incluíram perguntas sobre suicídio, sexo, drogas e transtornos alimentares.
- As empresas concorrentes afirmaram que a Meta não tinha autorização para realizar os testes.
Este conteúdo pode conter links de compra.
Fonte: link