YouTube Agora Detecta Deepfakes; Entenda Como
O YouTube acaba de expandir sua ferramenta de detecção de imagem e semelhança para incluir políticos, jornalistas e autoridades governamentais. Essa tecnologia funciona como um “Content ID” para rostos humanos, onde os indivíduos cadastrados enviam uma verificação de identidade e o YouTube cria um perfil de referência para comparar com novos uploads.
Essa capacidade de detecção em escala é tecnicamente viável e comercialmente aplicável, o que muda o patamar da conversa sobre o que se espera que organizações que lidam com evidências de áudio ou vídeo façam. Isso significa que as organizações que não implementarem salvaguardas podem ver essa lacuna se tornar relevante em discussões sobre negligência e dever de cuidado.
A abordagem do YouTube tem sucesso porque ela possui um original conhecido para comparar, o que torna a detecção um problema de “combinação” (matching), e não um problema de detecção em campo aberto. No entanto, sistemas de detecção que tentam identificar deepfakes sem um parâmetro de referência enfrentam um desafio totalmente diferente.
Para as organizações, a defesa contra deepfakes é entregue à equipe de segurança cibernética, tratada como um problema de resposta a incidentes e gerenciada dentro desse fluxo. No entanto, isso é insuficiente e, em alguns casos, é o caminho errado. A defesa contra deepfakes exige duas capacidades distintas: triagem e escalada forense.
A triagem envolve ferramentas de detecção baseadas em IA para vídeo e áudio, que sinalizam conteúdos que mostram sinais de manipulação. A escalada forense envolve a análise da evidência real por um perito digital, que examina a estrutura do arquivo, os metadados, os registros de tempo (timestamps) e os vestígios deixados pela forma e pelo momento em que o arquivo foi criado.
Para as empresas, os passos práticos incluem:
- Construir ou adquirir capacidade de triagem;
- Estabelecer um caminho de escalada forense antes de precisar dele;
- Preservar a evidência antes de qualquer outra coisa;
- Documentar sua postura de detecção.
Com essas medidas, as organizações estarão posicionadas para realmente provar o que aconteceu quando for necessário, em um tribunal ou em um processo de seguro.
Além disso, é importante notar que a detecção em escala do YouTube significa que o argumento da “inviabilidade técnica” tem data de validade. A tecnologia de detecção é imperfeita, mas ferramentas comerciais existem e o setor está se desenvolvendo rapidamente.
Em resumo, a detecção de deepfakes é um desafio complexo que requer uma abordagem multifacetada. As organizações que tratam a defesa contra deepfakes apenas como um problema de cibersegurança ficarão expostas quando evidências fabricadas surgirem em um processo judicial e elas não tiverem um caminho de escalada forense.
Este conteúdo pode conter links de compra.
Fonte: link