Ferramentas de fraude por deepfake ainda são muito fracas, diz pesquisa

Ferramentas de Fraude por Deepfake: Uma Análise da Eficiência

Os softwares que criam deepfakes têm evoluído rapidamente, tornando-se uma ferramenta eficiente e perigosa. No entanto, uma pesquisa do Fórum Econômico Mundial (WEF) revelou que essas ferramentas ainda não são capazes de contornar as contramedidas de instituições como bancos e empresas.

A pesquisa avaliou 17 programas de deepfake de código aberto e comerciais disponíveis no mercado, analisando suas habilidades de contornar algoritmos de reconhecimento facial e verificar a eficiência deles ao driblar verificações de segurança “know your costumer” (KYC). Os resultados mostraram que a maioria dos programas de deepfake é barato e superficial, produzido para uso em mídias sociais e demais formas de entretenimento.

Tipo de Programas de Deepfake

Os que somente editam vídeos pré-produzidos
Os que são serviços web, capazes de criar arquivos modificados
Os que mesclam faces em webcams em tempo real, ameaçando algoritmos de reconhecimento facial

Das 17 plataformas estudadas, apenas 5 afetam webcams em tempo real, e apenas 3 conseguem injetar imagens falsas diretamente no feed de vídeo de reconhecimento facial. Além disso, apenas 2 trabalham bem com iluminação dinâmica, e somente em conteúdo pré-gravado.

Embora os deepfakes possam enganar os olhos humanos mais treinados, eles ainda têm dificuldade de passar em reconhecimento facial e checagens KYC. Isso ocorre porque as boas tecnologias se apoiam em outros dados, como os metadados do usuário, e usam truques como piscar a tela do cliente, o que já revela se a luz se comporta como deveria no rosto.

Os defensores estão à frente nesse caso, pois ao estudar um ataque, pesquisadores de segurança possuem todo o tempo do mundo, e conseguem descobrir o que os hackers estão fazendo. Já os criminosos não fazem ideia do que estão fazendo errado, visto que a resposta da plataforma é apenas “sim” ou “não”: não há como saber no que melhorar para que o deepfake se saia melhor na fraude.

Este conteúdo pode conter links de compra.

Fonte: link