Falha no Detector de IA da Meta
Uma ferramenta de detecção de imagens geradas por inteligência artificial (IA) da Meta falhou em identificar 55% das próprias imagens produzidas pelo Muse Image após serem cortadas. Isso foi revelado em uma análise da Reuters publicada recentemente.
A ferramenta, que utiliza um sistema de marca d’água invisível chamado Content Seal, conseguiu identificar corretamente todas as imagens originais submetidas, mas apresentou problemas quando as fotos foram cortadas para cerca de um terço a metade do tamanho original.
Como funciona a detecção da Meta
A Meta afirma que a ferramenta consegue reconhecer imagens geradas por seus modelos de IA mesmo após cortes, graças ao sistema de marca d’água invisível. No entanto, especialistas apontam limites da tecnologia de marca d’água, destacando que qualquer modificação capaz de remover ou enfraquecer o sinal embutido pode reduzir a eficácia da detecção.
Entre os especialistas que comentaram sobre o assunto, Siwei Lyu, professor de ciência da computação, afirmou que sistemas baseados em marca d’água têm limitações conhecidas. Já Sarah Barrington, pesquisadora de IA, disse que a marca d’água ainda representa um caminho promissor para identificar conteúdo gerado por IA, mesmo sem cobrir todos os casos.
Implicações e Desenvolvimentos
A falha na detecção de imagens geradas por IA pode ter implicações significativas, especialmente em um ano marcado por eleições de meio de mandato nos Estados Unidos, onde a dificuldade de verificar imagens após alterações simples pode facilitar a circulação de deepfakes.
Além disso, a Meta recentemente lançou o Muse Image, um gerador de imagens por IA, e o Muse Spark 1.1, um modelo de raciocínio multimodal. Esses desenvolvimentos destacam a importância de investir em ferramentas de detecção mais robustas diante da proliferação de conteúdo enganoso gerado por IA.
- A Meta precisa investir em ferramentas de detecção mais robustas para combater o conteúdo enganoso gerado por IA.
- A marca d’água invisível é uma tecnologia promissora, mas não é infalível.
- A colaboração entre especialistas e empresas é fundamental para desenvolver soluções eficazes contra o conteúdo enganoso.
Este conteúdo pode conter links de compra.
Fonte: link