Grok é Bloqueado em Alguns Países Após Gerar Deepfakes Sensuais sem Consentimento

A Indonésia e a Malásia decidiram bloquear o acesso ao Grok, um chatbot de inteligência artificial (IA) integrado à rede social X, devido ao uso indevido da ferramenta para criar “deepfakes” sexualmente explícitos sem o consentimento das vítimas.

Os países do sudeste asiático são os primeiros a tomar essa medida, que visa proteger especialmente mulheres e crianças de conteúdos ilegais. A decisão foi anunciada pelos ministérios de comunicação de ambas as nações, que classificaram o uso da IA para produzir pornografia falsa como uma violação grave dos direitos humanos e da segurança digital.

Motivos do Bloqueio

O bloqueio ocorre após usuários usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas. Diferente de outros modelos de IA, o Grok é apontado como um ponto fora da curva por permitir edições do tipo.

Pesquisadores da organização AI Forensics analisaram 20 mil imagens geradas pela ferramenta e descobriram uma alta prevalência de comandos solicitando a remoção de roupas. Isso levou as autoridades a questionar a eficácia dos mecanismos de segurança da plataforma.

Consequências e Investigações

O bloqueio permanecerá em vigor até que a xAI, empresa responsável pela ferramenta, implemente mecanismos eficazes para impedir a geração desse tipo de conteúdo. Além disso, o Grok corre risco de ser limitado em outros locais, como o Reino Unido, que já iniciou uma investigação formal contra o X.

No Brasil, a legislação local está avançando para criminalizar especificamente a criação de nudes falsos por IA. A União Europeia também pressiona a plataforma com base em suas leis de serviços digitais, exigindo transparência e proteção aos usuários.

• O bloqueio do Grok é uma medida para proteger os usuários de conteúdos ilegais.
• A plataforma precisa implementar mecanismos eficazes para impedir a geração de deepfakes.
• A investigação contra o X pode resultar em multas ou outras consequências legais.

Este conteúdo pode conter links de compra.

Fonte: link