Detecção de Imagens Geradas por IA: O Google Lança Ferramenta no Gemini

O Google está lançando um novo recurso de detecção no aplicativo Gemini que ajudará a responder à pergunta: “Esta imagem foi gerada por IA?” A partir de agora, o Gemini detectará as marcas d’água invisíveis “SynthID” da empresa em imagens enviadas, indicando com um alto grau de confiança se a imagem foi criada ou modificada com um modelo de IA do Google.

Os modelos de IA do Google incorporam marcas d’água SynthID automaticamente ao criar imagens. Embora invisíveis a olho nu, elas podem ser detectadas e decodificadas usando ferramentas proprietárias especializadas. Com a nova integração ao aplicativo Gemini, essa capacidade de detecção agora está mais amplamente disponível.

Como Verificar uma Imagem no Google AI no Aplicativo Gemini

Para analisar uma imagem, faça o upload dela no aplicativo Gemini ou no site do Gemini e pergunte: “Esta imagem foi gerada com IA?”. O Gemini analisará a imagem e alertará sobre quaisquer marcas d’água SynthID encontradas, indicando que a imagem foi criada com um modelo de IA do Google.

Além disso, o Gemini tentará analisar a imagem em busca de sinais reveladores de IA, como resquícios de termos de instruções comuns, objetos com física inconsistente ou uma aparência de “pele de IA” artificialmente lisa.

Limitações do SynthID no Google Gemini

A limitação mais significativa é que o SynthID funciona apenas com os modelos de IA do Google. Outras plataformas de IA generativa, como Midjourney ou GPT Image, não usam marcas d’água SynthID, portanto o Gemini não terá nada para detectar.

Além disso, as marcas d’água SynthID não oferecem nenhuma defesa real contra aqueles que têm a intenção de enganar. Qualquer pessoa com conhecimento técnico básico pode burlar o sistema com pouco esforço.

O Google está trabalhando no suporte a credenciais de conteúdo C2PA, que permitirão aos usuários verificar conteúdo de outras plataformas, não apenas do Google.

Conclusão

A detecção de SynthID no Google Gemini é um passo na direção certa, mas apenas um pequeno passo, já que ainda não consegue responder definitivamente à nossa pergunta principal: “Esta imagem foi gerada por IA?”. No entanto, é um passo significativo que incentivará os usuários a criarem o hábito de verificar o conteúdo em vez de simplesmente aceitá-lo como verdadeiro.

• O Google está lançando um novo recurso de detecção no aplicativo Gemini.
• O SynthID detectará as marcas d’água invisíveis da empresa em imagens enviadas.
• A detecção de SynthID no Google Gemini é um passo na direção certa, mas ainda não consegue responder definitivamente à pergunta principal.

Este conteúdo pode conter links de compra.

Fonte: link