A Apple e a xAI: Um Caso de Moderação de Conteúdo

A Apple ameaçou remover o aplicativo Grok, um chatbot de inteligência artificial da xAI, empresa de Elon Musk, da App Store devido a violações relacionadas à geração de imagens sexualizadas e não consensuais envolvendo pessoas reais.

O caso começou em janeiro de 2026, quando a Apple notificou a xAI e exigiu mudanças imediatas nas ferramentas de geração de imagens. A empresa enviou novas versões do aplicativo, mas nem todas foram aprovadas de imediato, o que resultou em um ultimato interno de banimento caso as diretrizes não fossem cumpridas.

Depois de negociações, a versão mais recente do aplicativo foi aprovada, mas com mudanças importantes. O recurso de geração de imagens passou a ter limites para edições de fotos de pessoas reais, bloqueios para prompts sensíveis e restrições geográficas em países com leis mais rígidas.

Investigação e Consequências

Uma investigação da NBC News indica que o problema continua, mesmo com as mudanças. Usuários ainda encontram brechas para gerar imagens sexualizadas sem consentimento, utilizando táticas como o uso de desenhos para induzir poses e a transformação de fotos reais em pequenos vídeos com movimentos gerados pela IA.

A pressão política não ficou só na Apple. Os mesmos senadores americanos também pediram que o Google removesse os aplicativos X e Grok da Play Store. Além disso, governos agiram por conta própria, com o Reino Unido abrindo uma investigação com base na Lei de Segurança Online e a Indonésia proibindo totalmente o uso do Grok.

No Brasil, a deputada federal Erika Hilton apresentou uma denúncia ao Ministério Público Federal (MPF) e à Autoridade Nacional de Proteção de Dados (ANPD), pedindo que a ferramenta fosse suspensa no país até o fim das investigações.

• O aplicativo Grok gerou imagens sexualizadas de mulheres e crianças sem consentimento.
• A Apple ameaçou remover o aplicativo da App Store devido a violações relacionadas à geração de imagens.
• A xAI fez mudanças no aplicativo, incluindo limites para edições de fotos de pessoas reais e bloqueios para prompts sensíveis.

Este conteúdo pode conter links de compra.

Fonte: link