Erro de IA cria pássaro “fantasma” no Brasil e acende alerta na ciência
Um caso recente de um pássaro norte-americano registrado no Brasil chamou atenção na plataforma iNaturalist, mas revelou um problema crescente para a ciência: imagens alteradas por inteligência artificial.
O suposto registro de um graúna-de-asa-vermelha, espécie que não ocorre na região, era na verdade um sargento, ave comum no local. A foto foi alterada com uma ferramenta de IA para melhorar a qualidade da imagem, mas o sistema modificou características do animal e criou uma aparência semelhante à de outra espécie.
Problema do “AI slop”
O termo “AI slop” é usado para descrever conteúdos de baixa qualidade gerados por IA. O problema inclui imagens totalmente falsas e pequenas edições que parecem inofensivas, mas podem comprometer registros usados em estudos de biodiversidade.
Registros científicos são ameaçados por imagens falsas, pois plataformas como iNaturalist, Macaulay Library e WikiAves reúnem milhões de fotos feitas por observadores amadores e pesquisadores. Esses dados ajudam cientistas a monitorar impactos das mudanças climáticas e acompanhar deslocamentos de animais.
Desafios e soluções
Quando uma imagem alterada por IA entra nesses sistemas, ela pode indicar de forma errada que uma espécie apareceu em uma nova região ou mudou seu comportamento. Além disso, registros incorretos podem afetar modelos de inteligência artificial usados para identificar animais.
Para combater o problema, as plataformas começam a criar filtros contra IA. O iNaturalist, por exemplo, começou a sinalizar imagens com diferentes níveis de intervenção tecnológica. As fotos totalmente geradas por IA podem ser ocultadas da plataforma e os registros com excesso de edição deixam de ser considerados adequados para bases usadas em pesquisas.
- Imagens alteradas por IA podem comprometer registros usados em estudos de biodiversidade.
- Plataformas como iNaturalist e WikiAves reúnem milhões de fotos feitas por observadores amadores e pesquisadores.
- Ferramentas mais robustas de autenticação de imagens e análise de metadados são necessárias para combater o problema.
Os pesquisadores acreditam que o número real de imagens modificadas pode ser maior, já que alterações sutis continuam difíceis de identificar. O combate ao problema depende de ferramentas mais robustas de autenticação de imagens, análise de metadados e orientação dos observadores.
Este conteúdo pode conter links de compra.
Fonte: link