Entenda a Polêmica entre Anthropic, Amazon e Donald Trump
A Anthropic, uma empresa de inteligência artificial, está no centro de uma polêmica envolvendo o governo americano e a Amazon. O presidente dos Estados Unidos, Donald Trump, barrou o acesso de estrangeiros aos modelos mais avançados da Anthropic, Mythos 5 e Fable 5, após um relatório da Amazon que aponta falhas de segurança graves.
O relatório, compartilhado com especialistas em segurança cibernética, relata que a ferramenta foi capaz de detectar falhas em pelo menos quatro softwares, quando submetida a um conjunto específico de consultas. A alegação é que o modelo Fable 5 teria auxiliado pesquisadores da Amazon a obter informações sensíveis que poderiam facilitar ataques cibernéticos.
Reações e Consequências
A decisão de Trump foi tomada após conversas entre Andy Jassy, CEO da Amazon, e as autoridades americanas. A Casa Branca convocou uma reunião para discutir o caso, enquanto especialistas em segurança começaram a testar o modelo para averiguar as alegações da Amazon.
A Anthropic afirma que as vulnerabilidades apontadas pela empresa de Jeff Bezos são relativamente básicas e que outros modelos públicos poderiam fazer a mesma coisa. A empresa alega manter salvaguardas adequadas e garante que trabalha com uma unidade federal de testes de IA antes de lançar novos modelos.
No entanto, a big tech decidiu interromper o acesso aos modelos Mythos e Fable para todos os usuários, atuando em conformidade com a sanção americana. A empresa afirma que a regra vai afetar parte de seus pesquisadores estrangeiros que trabalham nos modelos mais recentes, atrasando inovação.
- A restrição pode afetar os planos da Anthropic de preparar uma oferta pública inicial de ações (IPO), caso clientes migrem para modelos concorrentes.
- A situação pode beneficiar concorrentes como a OpenAI, cujo modelo de IA está sendo oferecido aos clientes e em discussão com o governo Trump.
- A Anthropic vem divulgando alguns dos modelos mais poderosos e potencialmente perigosos do mundo, incluindo o Claude Mythos, ferramenta capaz de superar humanos em algumas tarefas de hacking e segurança cibernética.
A empresa alerta para os riscos atrelados ao poder de suas ferramentas e sugere uma pausa global no desenvolvimento caso os sistemas de IA com capacidade de auto aperfeiçoamento se popularizem.
Este conteúdo pode conter links de compra.
Fonte: link