Como hackers manipulam IAs para cometer crimes?
A engenharia social é uma técnica utilizada por hackers para enganar humanos e máquinas, levando ao roubo de dados e dinheiro. Com o avanço da tecnologia, os cibercriminosos agora também visam as máquinas, incluindo modelos de linguagem como ChatGPT, Claude e Gemini.
Esses modelos são programados para serem prestativos, o que é explorado pelos cibercriminosos para descobrir brechas em sistemas, criar malwares e muito mais. Isso é conhecido como “jailbreak linguístico”, uma técnica que permite contornar as limitações das IAs definidas pelos desenvolvedores.
Os cibercriminosos criam cenários imaginários, como competições de hackers éticos, para convencer as IAs a ignorar as regras e fornecer informações sigilosas. Eles também usam persuasão digital, assumindo personas de autoridade, para convencer as IAs de que são pesquisadores de segurança ou professores universitários.
Como as IAs não podem verificar essas informações no mundo real, elas presumem que são verdadeiras e relaxam as defesas éticas. Isso permite que os cibercriminosos usem as IAs para criar vírus e malwares de maneira prestativa, acreditando que estão contribuindo para um mundo melhor.
Consequências e soluções
A manipulação de IAs por cibercriminosos diminui a barreira de entrada para o crime, permitindo que pessoas com menos conhecimento técnico também possam cometer crimes cibernéticos. Além disso, a capacidade de mutação dos malwares torna-os mais difíceis de detectar por antivírus tradicionais.
Para combater esses crimes, os desenvolvedores estão criando vacinas e filtros rigorosos para impedir que IAs sejam manipuladas. No entanto, a base do problema continua simples: a manipulação da linguagem e o poder de convencimento seguem sendo a arma mais perigosa do mundo contra os internautas.
- A engenharia social é uma técnica utilizada por hackers para enganar humanos e máquinas.
- O “jailbreak linguístico” é uma técnica que permite contornar as limitações das IAs definidas pelos desenvolvedores.
- A persuasão digital é usada por cibercriminosos para convencer as IAs a ignorar as regras e fornecer informações sigilosas.
Este conteúdo pode conter links de compra.
Fonte: link