Novo Modelo de IA da Anthropic: Um Passo à Frente na Segurança Cibernética

A Anthropic, empresa por trás do modelo de IA Claude, anunciou recentemente o Claude Mythos Preview, um novo modelo de IA que alcançou um nível de raciocínio e codificação avançado o suficiente para superar a maioria dos humanos na descoberta e exploração de vulnerabilidades de software. No entanto, devido ao seu potencial perigoso se caísse em mãos erradas, a empresa decidiu não lançá-lo ao público por enquanto.

O Claude Mythos Preview já demonstrou sua capacidade identificando milhares de falhas graves de forma autônoma, incluindo problemas de longa data em softwares como o OpenBSD e o FFmpeg, além de falhas no kernel do Linux. Essas descobertas destacam o potencial do modelo para melhorar a segurança cibernética, mas também ressaltam os riscos de seu uso indevido.

O Projeto Glasswing: Uma Iniciativa para Segurança Cibernética

Para lidar com esses riscos e aproveitar o potencial do Claude Mythos Preview, a Anthropic lançou o Projeto Glasswing, uma iniciativa de segurança cibernética que reúne um grupo seleto de organizações da área de segurança digital e infraestrutura crítica. O projeto inclui grandes nomes como Apple, Microsoft, Google, AWS, NVIDIA, Cisco, CrowdStrike, Palo Alto Networks, JPMorgan Chase, Broadcom e Linux Foundation, além de representantes do governo dos Estados Unidos.

O objetivo do Projeto Glasswing é usar o Claude Mythos Preview como uma ferramenta defensiva para proteger os softwares mais importantes do mundo. O modelo será utilizado para mapear superfícies de ataque e encontrar vulnerabilidades em sistemas operacionais, navegadores, bibliotecas e infraestruturas amplamente utilizadas, com o objetivo de corrigir falhas críticas antes que sejam exploradas por hackers.

A Anthropic comprometeu-se a oferecer US$ 100 milhões em créditos para o uso do modelo e a destinar US$ 4 milhões em doações para entidades ligadas à segurança de código aberto. Além disso, a empresa prometeu transparência sobre os resultados e correções feitas ao longo do processo, com a publicação de um relatório após 90 dias.

Segundo Dario Amodei, CEO da Anthropic, os riscos de lidar com uma IA desse nível são óbvios, mas o Mythos também abre uma oportunidade rara de usar o modelo para tornar a internet mais segura. Se a tecnologia for aplicada da forma certa, ela pode ajudar a corrigir falhas críticas antes que sejam exploradas, fortalecendo a segurança de sistemas usados no mundo inteiro.

• O Claude Mythos Preview é um modelo de IA avançado que pode superar a maioria dos humanos na descoberta e exploração de vulnerabilidades de software.
• O Projeto Glasswing é uma iniciativa de segurança cibernética que reúne organizações da área de segurança digital e infraestrutura crítica para usar o Claude Mythos Preview como uma ferramenta defensiva.
• A Anthropic comprometeu-se a oferecer créditos e doações para apoiar a segurança de código aberto e prometeu transparência sobre os resultados e correções feitas ao longo do processo.

Este conteúdo pode conter links de compra.

Fonte: link