YouTube e X: Portas de Entrada para Criar Nudes Falsos com IA

Um estudo recente do Institute for Strategic Dialogue (ISD) revelou que o YouTube e o X estão sendo utilizados como “portas de entrada” para criar imagens falsas sensuais de outras pessoas, conhecidas como deepfakes, utilizando tecnologias de inteligência artificial (IA). Essa prática é considerada crime e teve sua pena aumentada no Brasil no ano passado.

O estudo identificou que existe um ecossistema completo para criar nudes falsos, que envolve a distribuição em canais grandes e uma infraestrutura para evitar fiscalizações de autoridades. As imagens criadas vão além de motivações sexuais e reforçam dinâmicas de poder e padrões de misoginia online.

• 181 sites com recursos para criar deepfakes foram identificados durante um período de seis meses, com mais de 40 milhões de visitantes únicos mensais.
• A maior parte do tráfego aos sites vem de visitas diretas, enquanto redes sociais populares, lideradas por YouTube e X, foram responsáveis por mais de 5,7 milhões de visitas às ferramentas.
• Os apps de nudify cobram valores baixos, com média de US$ 1 por deepfake, e as transações são feitas por criptomoedas, o que dificulta o rastreamento.

O YouTube e o X têm políticas rigorosas que proíbem conteúdo que inclua sexualização indesejada, mas o estudo mostra que essas plataformas ainda são utilizadas para difundir esses conteúdos. O Brasil pressionou as Big Techs sobre o tema, e o Presidente Luiz Inácio Lula da Silva assinou um decreto que exige a criação de um canal específico para receber denúncias de divulgação de imagens íntimas sem consentimento.

Caso você tenha sido vítima de um golpe com imagens falsas ou publicação de conteúdos íntimos sem consentimento, é importante registrar todas as provas possíveis, denunciar a publicação na respectiva plataforma e registrar um Boletim de Ocorrência online.

Este conteúdo pode conter links de compra.

Fonte: link