Investigação Revela Falhas na Moderação de Conteúdo da xAI

A xAI, empresa de inteligência artificial fundada por Elon Musk, está enfrentando críticas e processos judiciais devido à falta de moderação eficaz em seu chatbot Grok. Uma investigação recente publicada pela revista WIRED descobriu que a plataforma ainda hospeda e permite o acesso a imagens e vídeos pornográficos gerados por inteligência artificial sem o consentimento das vítimas.

Os resultados da investigação mostram que a xAI não cumpriu com as promessas anteriores de implementar salvaguardas contra abusos virtuais. A análise jornalística encontrou dezenas de materiais contendo simulações explícitas de nudez de celebridades e da congressista dos Estados Unidos, Alexandria Ocasio-Cortez, hospedados diretamente no domínio da ferramenta.

Comparação com Concorrentes

Em testes comparativos, os comandos de texto utilizados no Grok foram rejeitados de forma automática por sistemas concorrentes como o ChatGPT (OpenAI), Meta AI e Claude (Anthropic), que barram pedidos de cunho sexual. Isso sugere que a xAI está abaixo dos padrões de moderação de conteúdo estabelecidos por outras empresas do setor.

Riscos Financeiros e Processos Judiciais

A falta de moderação eficaz na xAI resultou em desdobramentos jurídicos e financeiros para o ecossistema de empresas de Elon Musk. A SpaceX provisionou US$ 530 milhões para lidar com litígios e perdas legais em andamento, associando o montante diretamente aos riscos reputacionais e operacionais gerados pelas modalidades de conteúdo explícito do Grok.

• Um processo aberto por Ashley St. Clair, ex-parceira de Musk, após deepfakes que simulavam sua imagem em trajes sumários circularem na rede social X.
• Uma ação civil coletiva protocolada na Califórnia em março alega que as ferramentas da xAI foram utilizadas de maneira recorrente para sexualizar imagens de menores de idade.

A pressão regulatória internacional também está aumentando, com o Comissariado de Privacidade do Canadá divulgando conclusões preliminares de um inquérito que apontam que a startup violou leis federais de privacidade do país.

Este conteúdo pode conter links de compra.

Fonte: link