Deepfakes Sensuais sem Consentimento: O Caso da IA Grok no X

A nova ferramenta de edição de imagens da IA Grok, integrada ao X, tem gerado controvérsia devido ao uso indevido para criar deepfakes sensuais sem consentimento. Essas imagens, que incluem biquínis e poses sexualizadas em fotos de mulheres e crianças, têm sido alvo de reclamações na própria rede social.

A controvérsia ganhou mais repercussão quando o próprio Grok, ao ser questionado por usuários, gerou respostas condenando a prática e pedindo desculpas, embora essas mensagens não representem uma posição oficial da xAI, empresa de Elon Musk responsável pela tecnologia.

Investigações em Andamento

Com a repercussão das deepfakes sexualizadas geradas pelo Grok, autoridades de diferentes países iniciaram investigações contra a plataforma X e a tecnologia Grok. No Brasil, a deputada federal Erika Hilton apresentou uma denúncia ao Ministério Público Federal e à Agência Nacional de Proteção de Dados, solicitando que a IA seja desabilitada no país até que a investigação seja finalizada.

Na França, os parlamentares Arthur Delaporte e Eric Bothorel acionaram o Ministério Público de Paris, que confirmou que o caso foi incorporado a uma investigação em andamento contra a plataforma. Já na Malásia, a Comissão de Comunicações e Multimídia declarou ter recebido diversas queixas públicas sobre o uso indevido da IA no X e está investigando danos relacionados à manipulação digital de imagens de mulheres e menores de idade.

O que Fazer se For Vítima de Deepfake

No Brasil, a criação ou divulgação de deepfakes sensuais sem autorização da pessoa retratada constitui crime. Se for vítima desse tipo de conteúdo, o primeiro passo é registrar provas para abertura de um boletim de ocorrência. Isso inclui:

• Fazer capturas de tela ou gravar vídeos de todas as publicações, comentários e URLs onde o deepfake está sendo divulgado.
• Utilizar ferramentas de timestamp para garantir a autenticidade e a integridade das provas.

Com essas provas em mãos, a orientação é registrar um boletim de ocorrência, que em muitos estados pode ser feito de forma online. Além disso, é possível recorrer a serviços de contenção, como o Take It Down, que cria um identificador digital para impedir novos envios de imagens ou vídeos íntimos divulgados sem consentimento.

Este conteúdo pode conter links de compra.

Fonte: link