IA Perigosa da Anthropic Invade Sistemas da NSA em Poucas Horas Durante Teste
O modelo de IA mais poderoso da Anthropic, o Claude Mythos, demonstrou sua capacidade de invadir sistemas confidenciais da Agência Nacional de Segurança (NSA) dos Estados Unidos em um curto período de tempo. De acordo com o jornal The Economist, isso ocorreu durante um teste de segurança interno, conhecido como red-teaming, onde a IA foi utilizada para avaliar a segurança dos sistemas da NSA.
É importante notar que essa invasão não foi um ataque hacker convencional, pois a IA foi utilizada como parte do teste de segurança e não agiu sozinha. No entanto, o fato de a IA ter conseguido invadir os sistemas da NSA em poucas horas é um sinal de alerta para a segurança nacional dos EUA.
Consequências da Invasão
A empresa Anthropic suspendeu o acesso aos modelos Mythos e Fable após a decisão do governo dos EUA de vetar o uso da tecnologia por questões de segurança nacional. O vice-presidente do Comitê de Inteligência do Senado, Mark Warner, relatou a invasão ao chefe da NSA, o que levou à medida de suspensão do acesso.
Além disso, o governo dos EUA também está monitorando o potencial de “autoaperfeiçoamento recursivo” das IAs, que poderia permitir que um modelo de IA crie versões melhores de si mesmo e acelere o progresso, o que poderia ser uma ameaça à liderança dos EUA no setor de IA.
O que é o Claude Mythos?
O Claude Mythos é o modelo de IA mais poderoso da Anthropic, capaz de executar tarefas complexas e longas por um período prolongado. Devido ao seu potencial, o acesso ao Mythos foi limitado a um grupo de empresas parceiras do projeto Glasswing.
A Anthropic também liberou o Fable, uma versão mais controlada e segura do Mythos, mas teve que remover o acesso após a decisão do governo dos EUA, que avaliou um potencial risco de “jailbreak” (fazer a IA desrespeitar as próprias regras de segurança).
- O Claude Mythos é o modelo de IA mais poderoso da Anthropic.
- A IA invadiu os sistemas da NSA em poucas horas durante um teste de segurança.
- O governo dos EUA suspendeu o acesso aos modelos Mythos e Fable por questões de segurança nacional.
Este conteúdo pode conter links de compra.
Fonte: link