Claude Mythos: O CEO da Anthropic Debate os Riscos da Nova IA na Casa Branca

O CEO da Anthropic, Dario Amodei, se reuniu com autoridades da Casa Branca para discutir o Claude Mythos, um novo modelo de inteligência artificial (IA) da empresa. A ferramenta possui capacidade avançada para identificar falhas de segurança em softwares e foi classificada pela própria Anthropic como um risco sem precedentes.

A reunião na Casa Branca marca uma reaproximação entre a administração americana e a Anthropic, após a empresa ter sido rotulada como um risco à cadeia de suprimentos pelo Departamento de Defesa dos EUA em março. O presidente Donald Trump havia emitido uma diretriz proibindo o uso da tecnologia da companhia por agências federais, o que gerou processos judiciais por parte da Anthropic.

Por que o Claude Mythos é Perigoso?

O interesse governamental e corporativo na nova IA se deve ao seu desempenho extremo na área de cibersegurança. Segundo a Anthropic, o Claude Mythos ultrapassa a habilidade humana na detecção e na exploração de vulnerabilidades críticas em sistemas computacionais. Em testes recentes de segurança, a IA encontrou falhas de dia zero em diversos sistemas operacionais e navegadores de internet.

Devido ao potencial destrutivo caso a tecnologia seja utilizada por agentes maliciosos, o modelo não será lançado para o público geral. O acesso inicial está restrito ao “Project Glasswing”, uma iniciativa de segurança cibernética criada pela Anthropic que envolve gigantes da tecnologia como Amazon Web Services, Apple, Microsoft e Google para corrigir falhas de infraestrutura.

Expansão para o Setor Financeiro Britânico

Apesar do controle rigoroso e da restrição a empresas de tecnologia nos Estados Unidos, o uso da ferramenta será expandido para instituições financeiras do Reino Unido. Bancos britânicos receberão acesso ao Claude Mythos na próxima semana para escanear suas infraestruturas de TI.

A liberação ocorre em meio a alertas de líderes financeiros do país sobre os impactos da adoção de uma ferramenta capaz de expor falhas críticas em sistemas bancários estruturais. A Anthropic afirma que o objetivo desta distribuição controlada é utilizar a capacidade da IA de forma puramente defensiva, permitindo que as empresas identifiquem e corrijam vulnerabilidades antes que sofram ataques cibernéticos reais.

• A reunião na Casa Branca marca uma reaproximação entre a administração americana e a Anthropic.
• O Claude Mythos possui capacidade avançada para identificar falhas de segurança em softwares.
• A ferramenta não será lançada para o público geral devido ao potencial destrutivo caso seja utilizada por agentes maliciosos.

Este conteúdo pode conter links de compra.

Fonte: link