Identificando a Origem de Vídeos Falsos: A Ferramenta SAGA

Uma equipe de pesquisadores da Universidade da Califórnia, Riverside (UCR), em parceria com especialistas do YouTube e da Google DeepMind, desenvolveu uma ferramenta inovadora chamada SAGA (Source Attribution of Generative AI Videos). Essa tecnologia consegue identificar se um vídeo é falso e, mais importante, apontar qual inteligência artificial foi usada para criá-lo.

A SAGA foi criada para ajudar no rastreamento de vídeos gerados por IA em casos de desinformação, fraudes e campanhas coordenadas. Com a crescente utilização de conteúdos sintéticos na política, entretenimento, publicidade, educação e redes sociais, identificar apenas que um conteúdo é sintético já não é suficiente. É necessário descobrir de onde aquele material veio e qual sistema foi responsável pela criação.

Como a SAGA Funciona

A SAGA funciona identificando padrões visuais deixados pelos modelos de inteligência artificial durante a criação dos vídeos. Esses sinais funcionam como uma espécie de impressão digital do gerador, já que cada sistema tende a produzir pequenas características próprias que podem ser detectadas pela ferramenta. O diferencial do método está na análise de informações espaciais e temporais, avaliando como os elementos do vídeo mudam entre os quadros e identificando padrões no movimento e na evolução das imagens ao longo do tempo.

Além disso, a SAGA utiliza as chamadas Temporal Attention Signatures (T-Sigs), assinaturas criadas a partir dos padrões temporais encontrados nos vídeos. Para construir o perfil característico de cada gerador, a SAGA faz uma média desses padrões ao longo de diversos vídeos produzidos pelo mesmo sistema de IA. Com esse processo, o modelo consegue identificar características associadas a diferentes geradores e apontar informações, como o tipo de criação usada, a versão do modelo e a equipe responsável pelo desenvolvimento da inteligência artificial.

Resultados e Desafios Futuros

Nos testes, a SAGA conseguiu analisar vídeos produzidos por 19 geradores diferentes com base em conjuntos de dados públicos, incluindo modelos de texto para vídeo e imagem para vídeo. O sistema também foi capaz de diferenciar versões de um mesmo modelo de IA, indicando uma capacidade maior de rastreamento da origem dos conteúdos.

Apesar dos resultados promissores, os pesquisadores afirmam que a identificação de vídeos gerados por IA continuará sendo uma disputa constante. À medida que novos modelos surgem e ficam mais avançados, ferramentas de detecção também precisarão evoluir para acompanhar as mudanças. A SAGA representa um importante passo na luta contra a desinformação e os deepfakes, mas o desafio de manter a segurança e a integridade dos conteúdos online é contínuo.

Este conteúdo pode conter links de compra.

Fonte: link