Falha expões rede com 1 milhão de deepfakes pornográficos de adultos e crianças

Um vazamento de dados recente expôs a MagicEdit, uma ferramenta que gera imagens com inteligência artificial (IA), por incluir em sua biblioteca deepfakes e “nudificação” de adultos e crianças. O pesquisador de cibersegurança Jeremiah Fowler descobriu que o banco de dados público da plataforma continha cerca de um milhão de imagens e vídeos pornográficos, todos gerados ou manipulados com o uso de IA.

Grande parte dos registros mostrava troca de rostos e corpos entre adultos e pessoas mais jovens, além de incluir imagens que pareciam legítimas como uma espécie de referência, algo que supostamente era feito sem o consentimento dos indivíduos. Isso gera preocupação sobre a possibilidade da falta de consentimento por trás do uso dessas imagens para deepfakes pornográficos e outros tipos de conteúdos adultos.

Investigação e respostas

Fowler entrou em contato com os desenvolvedores da MagicEdit após a confirmação do vazamento de dados. Em resposta, a empresa restringiu o acesso ao banco de imagens da plataforma, tornando-o indisponível, assim como o aplicativo. A empresa também enviou uma declaração a respeito do caso, afirmando que eles “estão conduzindo uma investigação completa sobre o alcance da exposição”.

O MagicEdit também servia como um meio para indivíduos que queriam produzir conteúdo adulto. Durante as investigações, Fowler identificou que o aplicativo do gerador de imagens era descrito na App Store como uma plataforma “destinada a usuários maiores de 18 anos”. O app ainda exibia um aviso de que poderia conter conteúdo sexual ou nudez.

Preocupações e alertas

O especialista faz um alerta para a possibilidade da falta de consentimento por trás do uso dessas imagens para deepfakes pornográficos e outros tipos de conteúdos adultos, além da possibilidade desses registros gerados por IA serem usados para chantagens e golpes. Além disso, a falta de controle sobre o uso dessas imagens pode levar a consequências graves, como a disseminação de conteúdo ilegal ou a violação de direitos autorais.

É importante que as empresas e os desenvolvedores de tecnologia tomem medidas para garantir a segurança e a privacidade dos usuários, especialmente quando se trata de tecnologias que podem ser usadas para gerar conteúdo sensível ou ilegal.

• O vazamento de dados expôs a MagicEdit e sua biblioteca de deepfakes e “nudificação” de adultos e crianças.
• A empresa restringiu o acesso ao banco de imagens e ao aplicativo após a confirmação do vazamento de dados.
• O especialista faz um alerta para a possibilidade da falta de consentimento por trás do uso dessas imagens para deepfakes pornográficos e outros tipos de conteúdos adultos.

Este conteúdo pode conter links de compra.

Fonte: link