MPF e ANPD Exigem Ações Contra Deepfakes Sexuais no Grok

O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) expediram uma recomendação conjunta para a X Brasil Internet Ltda., exigindo a adoção de medidas imediatas em relação à ferramenta de inteligência artificial do Grok. O objetivo é impedir a geração de imagens sexualizadas de pessoas reais, incluindo crianças e adolescentes, sem o consentimento das vítimas.

A recomendação aponta que a ferramenta de edição de imagens do Grok permite a criação de deepfakes de teor erótico e pornográfico a partir de fotos reais, violando direitos fundamentais como a dignidade humana, a privacidade, a autodeterminação sexual e a proteção integral de menores de idade. Os órgãos estabeleceram um prazo de até 27 de janeiro para que a rede social informe se acatará as medidas.

Responsabilidade da Plataforma

Um dos pontos centrais da argumentação do MPF e das agências reguladoras é a responsabilidade da X sobre o material gerado. A recomendação sustenta que a plataforma X não pode ser tratada apenas como uma intermediária passiva de conteúdo, pois os deepfakes resultam de uma interação direta entre os comandos dos usuários e a ferramenta de inteligência artificial (IA) desenvolvida e disponibilizada pela empresa.

A recomendação classifica a X como “coautora de tais conteúdos”, afastando a imunidade prevista no artigo 19 do Marco Civil da Internet para casos de conteúdo gerado por terceiros. Além do bloqueio imediato da geração de novas imagens ilíticas, a recomendação conjunta impõe outras obrigações à plataforma, como estabelecer procedimentos claros e eficazes para identificar e excluir conteúdos já publicados que representem crianças e adolescentes em contextos sexualizados.

• Estabelecer procedimentos claros e eficazes para identificar e excluir conteúdos já publicados que representem crianças e adolescentes em contextos sexualizados.
• Aplicar rigorosamente as políticas de uso da própria rede social, que proíbem a nudez não consensual e a exploração sexual infantil.
• Suspender imediatamente e permanentemente contas envolvidas na produção ou compartilhamento exclusivo desse tipo de material.

Caso a recomendação não seja acatada, os órgãos alertam para a possibilidade de medidas administrativas e judiciais, que podem se basear no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD).

Este conteúdo pode conter links de compra.

Fonte: link