Investigação na Europa: X é Alvo devido a Deepfakes Sexuais Criados com IA

A Comissão Europeia iniciou uma investigação para avaliar a atuação do X, antigo Twitter, no caso dos deepfakes sexuais criados com inteligência artificial (IA) por meio do Grok. O objetivo é verificar se a rede social está seguindo as normas estabelecidas pelo Regulamento dos Serviços Digitais (RSD) na Europa.

A investigação busca verificar se a empresa avaliou e mitigou adequadamente os riscos associados à implementação das funcionalidades do Grok no X na União Europeia. Isso inclui riscos relacionados à disseminação de conteúdo ilegal na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdos que possam se enquadrar como material de abuso sexual infantil.

Possíveis Desdobramentos

Se a Comissão Europeia constatar infrações às regras estabelecidas pelo RSD, a empresa de Elon Musk pode ser alvo de medidas provisórias, como a suspensão temporária de funcionalidades específicas da rede social. Além disso, a não conformidade com os termos impostos pela legislação também pode resultar em multas de até 6% do volume anual de negócios da companhia.

Em dezembro de 2025, uma decisão da UE sobre a falta de transparência por parte do X já resultou em uma multa de 120 milhões de euros à empresa.

Expansão de Inquérito Aberto em 2023

A nova investigação é tratada pela Comissão Europeia como uma expansão de um inquérito instaurado em dezembro de 2023 contra o X. Esse processo tem como pilar a análise do funcionamento do mecanismo de notificação e ação da rede social, bem como de suas medidas para minimizar o compartilhamento de conteúdos ilegais.

A investigação de 2023 também avalia os riscos relacionados ao sistema de recomendação do X, incluindo um novo mecanismo algorítmico baseado nos recursos do Grok que pode infringir as diretrizes do Regulamento dos Serviços Digitais.

• Minimizar a disseminação de conteúdos ilegais;
• Mitigar as consequências negativas decorrentes da implementação das funcionalidades do Grok na plataforma;
• Elaborar e enviar à UE relatórios sobre avaliações de risco relacionadas aos recursos do Grok na rede social.

Este conteúdo pode conter links de compra.

Fonte: link