Hacker Utiliza IA para Invadir Governo do México e Roubar Dados

Um cibercriminoso conseguiu usar o Claude, um Large Language Model (LLM) da empresa Anthropic, para atacar diversas agências governamentais mexicanas, resultando no roubo de dados sensíveis de milhões de cidadãos. De acordo com a empresa de cibersegurança Gambit Security, o hacker escreveu prompts em espanhol para instruir a IA a agir como um atacante digital de elite, buscando vulnerabilidades em redes do governo e escrevendo scripts para explorar essas falhas.

A atividade criminosa começou em dezembro e durou um mês, resultando no roubo de 150 gigabytes de dados governamentais do México, incluindo documentos de mais de 195 milhões de cidadãos. Os dados roubados incluíam informações de imposto de renda, registros de votação, credenciais de funcionários do governo e registros civis.

• Institutos federais na Cidade do México, Jalisco, Michoacán e Tamaulipas foram afetados.
• Registros do sistema sanitário de Monterrey também foram comprometidos.

O hacker conseguiu convencer a IA de que estava “buscando vulnerabilidades para o sistema de recompensas”, atividade que é realizada por algumas agências. A Anthropic, após notificação da Gambit, interrompeu a atividade e baniu as contas envolvidas. A empresa está trabalhando para melhorar a segurança do Claude, alimentando-o com exemplos de atividade maliciosa para que a IA aprenda a identificar mau uso.

Além disso, o hacker usou comandos do Claude e dicas do ChatGPT para invadir sistemas do governo mexicano. Quando encontrou problemas e precisou de mais informações, o hacker foi para o ChatGPT pedir por mais ideias, como dicas para se mover lateralmente pelas redes e determinar quais credenciais seriam necessárias para acessar certos sistemas.

A segurança cibernética é um desafio constante, e o uso de IA pode ser uma ferramenta poderosa tanto para os defensores quanto para os atacantes. Embora a Anthropic e outras empresas estejam trabalhando para melhorar a segurança de suas ferramentas, é fundamental que os usuários estejam cientes dos riscos e tomem medidas para proteger suas informações, como proteger sua Smart TV e outros dispositivos conectados.

Este conteúdo pode conter links de compra.

Fonte: link