Disputa entre Pentágono e Anthropic sobre Salvaguardas de IA

O Pentágono está considerando encerrar seu relacionamento com a empresa de inteligência artificial Anthropic devido à insistência da empresa em manter restrições sobre como as Forças Armadas dos Estados Unidos usam seus modelos de IA. De acordo com a Axios, o Pentágono está pressionando quatro empresas de IA, incluindo OpenAI, Google e xAI, para que permitam que as Forças Armadas utilizem suas ferramentas para “todos os fins legais”, incluindo nas áreas de desenvolvimento de armas, coleta de inteligência e operações em campo de batalha.

No entanto, a Anthropic não concordou com esses termos, e o Pentágono está ficando cansado após meses de negociações. Um porta-voz da Anthropic disse que a empresa não discutiu o uso de seu modelo de IA Claude para operações específicas com o Pentágono, e que as conversas com o governo dos EUA se concentraram em questões de política de uso, incluindo limites rígidos em torno de armas totalmente autônomas e vigilância doméstica em massa.

É importante notar que o modelo de IA Claude da Anthropic foi usado na operação militar dos EUA para capturar o ex-presidente venezuelano Nicolás Maduro, com Claude implantado por meio da parceria da Anthropic com a empresa de dados Palantir. Além disso, a Reuters informou que o Pentágono está pressionando as principais empresas de IA para disponibilizar suas ferramentas de inteligência artificial em redes confidenciais sem muitas das restrições padrão que as empresas aplicam aos usuários.

As principais questões em disputa incluem:

• Uso de modelos de IA para desenvolvimento de armas
• Uso de modelos de IA para coleta de inteligência
• Uso de modelos de IA para operações em campo de batalha

O Pentágono não comentou o assunto, mas é claro que a disputa entre o Pentágono e a Anthropic sobre salvaguardas de IA é um tema complexo e delicado. A Anthropic está insistindo em manter restrições sobre como as Forças Armadas dos EUA usam seus modelos de IA, enquanto o Pentágono está pressionando para que as empresas de IA permitam que as Forças Armadas utilizem suas ferramentas para “todos os fins legais”.

Este conteúdo pode conter links de compra.

Fonte: link