AGU Tira do Ar Site que Comercializava Deepfakes com Pornografia Infantil
A Advocacia Geral da União (AGU) conseguiu derrubar um site estrangeiro que comercializava deepfakes para produção de pornografia infantil. A ação foi possível após uma notificação extrajudicial da Procuradoria Nacional da União de Defesa da Democracia (PNDD).
O esquema foi exposto em uma reportagem que identificou que o site vendia imagens falsas criadas a partir de fotos verdadeiras de crianças, utilizando-as para produzir conteúdos pornográficos. Esses materiais eram produzidos com a ajuda de inteligência artificial (IA) e comercializados em fóruns na dark web.
Com a notificação da PNDD, a empresa reconheceu a irregularidade das publicações e retirou o site do ar. Isso mostra a importância da atuação conjunta entre as autoridades e a necessidade de vigilância constante na internet.
O Perigo dos Deepfakes
Os deepfakes são um perigo constante na internet, ameaçando a integridade dos envolvidos por modificarem vídeos, fotos e outros tipos de imagem usando ferramentas de IA com código aberto. Baseada em deep learning, a tecnologia consegue fornecer os meios para criação de imagens falsas que parecem extremamente realistas.
Os deepfakes podem ser usados para aplicar golpes, danificar reputações, disseminar notícias falsas e criar conteúdos pornográficos. É fundamental ter cuidado e desconfiar sempre, pois fica cada vez mais difícil identificar o que é real e o que foi produzido a partir de uma ferramenta de IA generativa.
Prevenção e Regulamentação
No Brasil, temos o Marco Legal da IA (PL 2.338/23), que visa criar uma regulamentação para o uso de IA no país, garantindo uma maior segurança e transparência. É importante que os cidadãos estejam cientes dos riscos e tomem medidas para se proteger.
Algumas medidas de prevenção incluem:
- Desconfiar de informações e imagens que pareçam suspeitas ou inconsistentes.
- Verificar a fonte das informações antes de compartilhá-las.
- Manter os sistemas de segurança atualizados e usar ferramentas de proteção contra malware.
Com a colaboração de todos, podemos combater o problema dos deepfakes e garantir uma internet mais segura.
Este conteúdo pode conter links de compra.
Fonte: link