Deepfakes Sexuais no Grok: O Que Está Acontecendo?

O X, antigo Twitter, anunciou recentemente que bloqueou a geração de deepfakes sexuais criados com o Grok na rede social. Isso aconteceu após acusações de que a ferramenta estava sendo usada para criar conteúdo sexual indesejado e exploração infantil.

A plataforma destacou que mantém uma política de “tolerância zero” contra todas as formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. Para impedir a criação de deepfakes sexuais, foram implementadas “medidas tecnológicas” ao Grok, incluindo a limitação da criação e edição de imagens na conta do Grok apenas para assinantes pagos.

Medidas para Prevenir o Abuso

Essas medidas adicionam uma camada extra de proteção, ajudando a garantir que indivíduos que tentem abusar da conta do Grok para violar a lei ou as políticas da plataforma possam ser responsabilizados. No entanto, testes realizados recentemente mostram que ainda é possível solicitar e gerar imagens de pessoas de biquíni, por exemplo, por meio do botão de edição de imagens exibido em fotos publicadas na plataforma.

Elon Musk, CEO do X e também da xAI, empresa responsável pelo Grok, rebateu acusações sobre a geração de imagens sexualizadas de menores de idade por meio da IA. Ele atribuiu a responsabilidade pela geração das demais imagens aos usuários e também a “ataques maliciosos” direcionados ao Grok.

Investigações e Proibição em Alguns Países

O Grok passou a ser utilizado por usuários para gerar deepfakes sexualizados sem consentimento a partir de posts feitos no feed do X. Após acusações feitas por diversas contas na plataforma, foram iniciadas investigações sobre a prática na rede social. O Reino Unido, por exemplo, abriu uma investigação para apurar possíveis violações das leis de segurança online.

Além disso, países como Indonésia e Malásia bloquearam o acesso ao Grok dentro do X, classificando o uso da IA para a geração de conteúdos pornográficos como uma violação grave dos direitos humanos e da segurança digital. No Brasil, a deputada federal Erika Hilton apresentou uma denúncia ao Ministério Público Federal e à Agência Nacional de Proteção de Dados, solicitando a desativação da ferramenta da xAI no país.

• O X bloqueou a geração de deepfakes sexuais criados com o Grok.
• Foram implementadas medidas tecnológicas para impedir a criação de deepfakes sexuais.
• Elon Musk rebateu acusações sobre a geração de imagens sexualizadas de menores de idade.
• Paises como Indonésia e Malásia bloquearam o acesso ao Grok.

Este conteúdo pode conter links de compra.

Fonte: link