Agentes de IA e Ciberataques: O Futuro da Segurança Virtual

O segundo Relatório Internacional de Segurança da IA foi publicado, trazendo conclusões importantes sobre a capacidade dos agentes de inteligência artificial em realizar ciberataques. Embora esses sistemas ainda não sejam capazes de conduzir ataques por conta própria, eles auxiliam significativamente os cibercriminosos em diversos estágios de seus ataques.

O estudo, comandado pelo cientista da computação canadense Yoshua Bengio, inclui análises de mais de 100 especialistas de 30 países diferentes. As conclusões mostram que os sistemas de IA evoluíram muito em relação ao ano anterior, aumentando a capacidade de automatizar e conduzir ataques virtuais mais rapidamente.

Exemplos de Uso de IA em Ciberataques

Um exemplo marcante do uso de IA nos ciberataques foi descrito no relatório da Anthropic, onde espiões chineses abusaram da ferramenta Claude Code AI para automatizar ataques em cerca de 30 companhias de alto perfil e organizações governamentais. Além disso, os cibercriminosos usam a tecnologia principalmente para escanear softwares em busca de vulnerabilidades e na escrita de código malicioso.

Outra amostra dessas capacidades foi vista no Desafio Cibernético de IA DARPA (AIxCC), que dura dois anos e envolve duas equipes montando modelos de IA para buscar vulnerabilidades em softwares de código aberto. Os sistemas finalistas identificaram, de maneira autônoma, 77% das vulnerabilidades sintéticas usadas na rodada final.

Preocupações com a Segurança Virtual

Embora os agentes de IA ainda não consigam realizar ataques com vários estágios por conta própria, eles estão se aproximando disso. Com a melhoria dos sistemas de IA na escrita de códigos maliciosos, hackers têm vendido ransomware-as-a-service por preços acessíveis. A verdadeira preocupação é se estaremos preparados para lidar com ataques realizados por inteligência artificial por si só.

Além disso, a Apple tem trabalhado em melhorias de privacidade, como a nova ferramenta que vai limitar a localização no iPhone e iPad. No entanto, a segurança virtual é um desafio contínuo, e é fundamental estar atento às novas ameaças e tecnologias.

• Os agentes de IA estão se tornando cada vez mais capazes de realizar ciberataques.
• A tecnologia de IA é usada principalmente para escanear softwares em busca de vulnerabilidades e na escrita de código malicioso.
• A segurança virtual é um desafio contínuo, e é fundamental estar atento às novas ameaças e tecnologias.

Este conteúdo pode conter links de compra.

Fonte: link