Conselho acusa Meta de fazer vista grossa para deepfakes sexuais no Instagram
O Oversight Board, conselho independente de supervisão da Meta, determinou a remoção de um vídeo deepfake sexual que permaneceu no Instagram por meses após ser denunciado. Além disso, o conselho cobrou da empresa mudanças estruturais na forma como trata esse tipo de conteúdo gerado por inteligência artificial.
A decisão do Oversight Board aponta falhas no processo de moderação da plataforma e conclui que o sistema atual coloca pessoas comuns em situação de desvantagem em relação a figuras públicas. O caso teve início em setembro de 2025, quando um usuário do Instagram publicou um vídeo de oito segundos, aparentemente gerado por IA, mostrando uma mulher ajustando o vestido com a roupa íntima à mostra em alguns frames.
O que o conselho decidiu
O Oversight Board reverteu a decisão da Meta e exigiu a remoção do vídeo. A conclusão do conselho é que o conteúdo viola a política da empresa contra imagens íntimas não consensuais. O problema central identificado na decisão é que a Meta exige que a própria vítima faça a denúncia para que a falta de consentimento fique caracterizada.
Para corrigir isso, o Oversight Board recomenda que a Meta passe a tratar imitações geradas por IA como não consensuais por definição, sem depender de autodenuncia. Além disso, o conselho sugere que usuários possam designar “contas conectadas”, como amigos e familiares, autorizados a denunciar violações em nome de terceiros.
Recomendações do conselho
- Incluir deepfakes sexuais como categoria específica nos formulários de denúncia da plataforma.
- Disponibilizar globalmente o formulário com opção para denúncia de deepfakes sexuais.
- Tratar imitações geradas por IA como não consensuais por definição.
O Oversight Board defende que o abuso sexual não consensual gerado por IA é um problema de escala mundial e que vídeos deepfake sexuais causam danos à reputação e à saúde psicológica das vítimas, com impacto desproporcional sobre mulheres e meninas.
Este conteúdo pode conter links de compra.
Fonte: link