Governo determina que X adote medidas imediatas contra deepfakes sexuais
Os órgãos do Governo Federal determinaram que o X (antigo Twitter) deve adotar medidas imediatas para impedir a criação e disseminação de deepfakes sexuais. As ordens foram expedidas devido à proliferação de conteúdos sensíveis e sem consentimento na plataforma a partir do Grok.
A decisão veio após a plataforma informar que removeu milhares de publicações e contas ligadas a conteúdos ilegais. No entanto, a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (SENACON) concluíram que as providências adotadas pela plataforma foram insuficientes para conter o uso da IA para edição e publicação das mídias.
Medidas a serem adotadas pela rede social
As determinações elaboradas pela Senacon e pela ANPD exigem que a rede social implemente soluções técnicas a fim de impedir que o Grok viabilize a geração de conteúdos de cunho sexual sem consentimento. Além disso, as secretarias também ordenaram que a plataforma forneça uma lista enumerada detalhando as providências já tomadas para bloquear a geração das mídias em questão, além de dados sobre a identificação e remoção de postagens.
O MPF, por sua vez, determinou que a rede social de Elon Musk entregue relatórios mensais com detalhes de como está atuando para reprimir a produção de deepfakes sexuais. A medida foi imposta devido à falta de transparência da plataforma em relação às ações para coibir a geração de conteúdos sensíveis.
Grok usado para gerar deepfakes sexuais
Desde o início do ano, foi identificada uma onda de geração e publicação de deepfakes sexuais no X. Usuários utilizam a ferramenta de IA Grok para solicitar a edição de imagens, produzindo conteúdos sensíveis envolvendo menores de idade e adultos sem consentimento.
Países como Indonésia e Malásia bloquearam o acesso ao Grok dentro da rede social devido à produção de conteúdos ilegais. Já o Reino Unido e a União Europeia abriram investigações para avaliar se a plataforma está infringindo normas relacionadas à mitigação e prevenção de conteúdos nocivos aos usuários.
- Implementar soluções técnicas para impedir a geração de conteúdos de cunho sexual sem consentimento;
- Fornecer lista enumerada detalhando as providências já tomadas para bloquear a geração das mídias em questão;
- Entregar relatórios mensais com detalhes de como está atuando para reprimir a produção de deepfakes sexuais.
O descumprimento das providências estabelecidas e a eventual continuidade das irregularidades podem resultar em multas diárias e na responsabilização por crime de desobediência.
Este conteúdo pode conter links de compra.
Fonte: link