Vídeos Gerados por Inteligência Artificial: Riscos e Desafios

Os vídeos gerados por Inteligência Artificial (IA) estão se tornando cada vez mais comuns nas redes sociais, e muitas vezes, o público não percebe que o conteúdo não é real. Ferramentas avançadas como o Sora 2 da OpenAI conseguem criar pessoas, ambientes e movimentos com alto nível de realismo, dificultando a distinção entre o que foi filmado e o que foi sintetizado por computador.

Essa capacidade acende um alerta de riscos associados a esse tipo de produção. Vídeos hiper-realistas podem ser usados para manipular emoções, espalhar desinformação ou até enganar pessoas em golpes e campanhas de manipulação online. Além disso, o uso de imagens de figuras falecidas, sem autorização, tem gerado um debate sobre os limites do uso da IA.

Riscos Associados aos Vídeos Gerados por IA

Os riscos associados aos vídeos gerados por IA se manifestam em três dimensões: desinformação e manipulação, fraude e engenharia social, e erosão da confiança digital. O realismo cada vez mais apurado dessas produções abre espaço para a manipulação emocional e a desinformação em larga escala.

• Desinformação e manipulação: vídeos convincentes feitos em larga escala podem ser usados para distorcer a realidade.
• Fraude e engenharia social: deepfakes podem ser usados para falsificar identidades, comunicações corporativas ou solicitações financeiras.
• Erosão da confiança digital: o público pode questionar a autenticidade de conteúdos legítimos por receio de serem artificiais.

Como Identificar Vídeos Feitos com IA

Distinguir um vídeo real de um conteúdo criado por Inteligência Artificial tem se tornado uma tarefa cada vez mais complexa. No entanto, ainda é possível identificar sinais que denunciam sua origem artificial, como:

• Inconsistências físicas, com deformações em objetos, cabelos ou mãos entre quadros.
• Reflexos e sombras incoerentes em superfícies metálicas ou iluminação variável.
• Áudio e mímica facial dessincronizados, com som ambiente ou expressão facial que não correspondem ao contexto.
• Falta de informações técnicas de captura ou credenciais de conteúdo.

É importante haver mais formas de regulamentar o uso dessa tecnologia, como a transparência na publicação de vídeos artificiais, responsabilização de criadores, plataformas e desenvolvedores por danos gerados pelos vídeos e cooperação multissetorial.

Este conteúdo pode conter links de compra.

Fonte: link