Liberação de IAs Avançadas: O Caso do Fable e Mythos 5

O governo Trump decidiu retirar as restrições de exportação impostas ao Fable 5 e ao Mythos 5, os modelos de inteligência artificial mais avançados da Anthropic, empresa responsável pelo desenvolvimento do Claude. Essa decisão ocorre após quase três semanas de suspensão do acesso a esses sistemas devido a preocupações com a segurança nacional.

A liberação do Fable 5 e do Mythos 5 foi confirmada pela própria Anthropic e permite que esses modelos sejam acessados por um público mais amplo. O Fable 5, que é uma versão do Mythos com camadas extras de segurança, será disponibilizado ao público em geral a partir de agora. Já o Mythos 5, que é direcionado à detecção de vulnerabilidades de cibersegurança, será liberado para um grupo maior de parceiros domésticos e internacionais do programa Glasswing, da Anthropic.

Por que são considerados perigosos?

Os modelos Fable 5 e Mythos 5 são considerados perigosos devido à sua capacidade de localizar vulnerabilidades em softwares, o que pode ser usado para fins ofensivos se caírem em mãos erradas. Além disso, esses modelos podem ser manipulados por técnicas de jailbreak, que buscam burlar as regras de segurança e filtros éticos da IA.

A própria Anthropic reconheceu que é praticamente impossível tornar um modelo de IA totalmente imune a jailbreaks. No entanto, a empresa está trabalhando para desenvolver salvaguardas que possam bloquear comportamentos nocivos e redirecionar solicitações para modelos mais seguros.

O que muda a partir de agora?

A liberação do Fable 5 e do Mythos 5 vem com algumas condições. A Anthropic concordou em detectar e corrigir riscos de segurança de forma proativa, trabalhar com o governo em protocolos para esses modelos e informar as autoridades sobre qualquer atividade maliciosa identificada. Além disso, a empresa está desenvolvendo padrões comuns para avaliar e corrigir jailbreaks, em parceria com outras Big Techs como Amazon, Microsoft e Google.

• A Anthropic está trabalhando para desenvolver salvaguardas que possam bloquear comportamentos nocivos.
• A empresa concordou em detectar e corrigir riscos de segurança de forma proativa.
• A liberação do Fable 5 e do Mythos 5 é condicionada à colaboração com o governo e outras empresas para desenvolver padrões de segurança.

Essa decisão é um exemplo de como o governo e as empresas de tecnologia estão trabalhando juntos para equilibrar a inovação com a segurança e a responsabilidade. O caso do Fable 5 e do Mythos 5 destaca a importância de considerar as implicações éticas e de segurança ao desenvolver e implantar modelos de inteligência artificial avançados.

Este conteúdo pode conter links de compra.

Fonte: link