ONU Revela como Terroristas Burlam Filtros de IA para Fabricar Armas
De acordo com um relatório da Tech Against Terrorism, organizações apoiadas pelo Escritório de Contraterrorismo da ONU, grupos extremistas e organizações terroristas estão utilizando inteligência artificial para buscar informações que ajudam no planejamento de ataques e na fabricação ou adaptação de armas.
Os pesquisadores avaliaram 27 modelos de inteligência artificial com mais de 2.300 pedidos baseados em casos reais de terrorismo e descobriram que alguns criminosos conseguem driblar os filtros de segurança de modelos de IA usando técnicas conhecidas como jailbreaking.
Como os Terroristas Utilizam a IA
Os grupos terroristas utilizam a IA para:
- Planejar ataques e analisar alvos
- Produzir propaganda e materiais de apoio
- Adaptar armamentos e modificar drones
- Compartilhar técnicas de jailbreaking e prompts para burlar restrições de segurança
Além disso, a IA pode acelerar o acesso a informações que antes exigiam buscas em diferentes fontes e interação com outros extremistas, o que pode reforçar ressentimentos e crenças que o usuário já possui, incentivando o processo de radicalização.
Preocupações e Desafios
Os pesquisadores estão preocupados com o fato de que a IA pode ser utilizada por adolescentes e crianças, que já passam grande parte do tempo na internet, e que a IA pode funcionar como um assistente durante a conversa, facilitando o acesso a informações perigosas.
Para combater esse problema, é necessário desenvolver estratégias para prevenir a utilização de IA por grupos terroristas e proteger as pessoas, especialmente as mais vulneráveis, contra a radicalização e a manipulação.
Este conteúdo pode conter links de compra.
Fonte: link