Grok, IA de Musk, remove recursos após gerar imagens inadequadas de menores
A inteligência artificial chamada Grok, desenvolvida pela xAI de Elon Musk, está no centro de uma polêmica após usuários conseguirem gerar imagens sexualizadas de menores usando a ferramenta. O incidente levou a empresa a desativar temporariamente a aba de geração de imagens na plataforma e emitir um pedido de desculpas público.
A situação acende um alerta sobre os limites da moderação em IAs generativas e reforça o debate sobre responsabilidade das big techs no controle de conteúdo gerado por algoritmos. Usuários do X (antigo Twitter) relataram que o Grok estava sendo usado para criar conteúdo impróprio, incluindo imagens de pessoas sem roupas e, mais grave, representações sexualizadas de crianças e adolescentes.
O que aconteceu
Diferente de outras ferramentas de IA generativa, como ChatGPT e Microsoft Copilot, que possuem filtros rígidos de segurança, o Grok tinha uma abordagem mais permissiva. A própria xAI promovia a ferramenta como tendo “menos restrições” que seus concorrentes, o que acabou se mostrando um problema sério.
A criação de imagens sexualizadas de menores, mesmo que geradas artificialmente, configura crime em diversos países, incluindo o Brasil. A legislação brasileira prevê penas de até seis anos de prisão para quem produz, vende ou distribui esse tipo de material.
A resposta da xAI
A xAI reconheceu as falhas e tomou medidas imediatas. Em comunicado, a empresa admitiu que “houve problemas com a moderação de conteúdo” e que está trabalhando para corrigir as vulnerabilidades do sistema. A aba de geração de imagens foi temporariamente removida para todos os usuários enquanto a empresa implementa filtros de segurança mais robustos.
- Implementação de filtros mais rigorosos para detecção de conteúdo inadequado
- Sistema de verificação em múltiplas camadas antes de gerar imagens
- Bloqueio automático de termos e frases relacionadas a conteúdo ilegal
- Monitoramento mais ativo de usos indevidos da plataforma
O caso do Grok reacende discussões sobre até onde deve ir a liberdade de geração de conteúdo por inteligência artificial. Devido os perigos da falta de limitação, a tendência é que regulamentações mais rígidas sejam impostas globalmente.
Este conteúdo pode conter links de compra.
Fonte: link