Anthropic Bate de Frente com o Pentágono e Recebe Apoio de Funcionários do Google e OpenAI

A Anthropic, uma empresa de inteligência artificial, está em uma disputa com o Pentágono sobre a utilização de suas ferramentas de IA para vigilância em massa e armas autônomas. A empresa recusou-se a atender às exigências do Departamento de Defesa, o que gerou apoio de funcionários do Google e da OpenAI.

Centenas de funcionários do Google e da OpenAI assinaram uma carta aberta expressando apoio à recusa da Anthropic em cumprir a exigência do Pentágono de acesso irrestrito às suas ferramentas de IA. A carta pede que os líderes da OpenAI e do Google “deixem de lado suas diferenças e se unam para continuar recusando” as exigências do Pentágono.

Posição da Anthropic

O CEO da Anthropic, Dario Amodei, reforçou as restrições da empresa e disse que não pode, em sã consciência, ceder ao pedido do Pentágono para remover suas proteções e permitir “qualquer uso legal” de suas ferramentas de IA. A empresa implementou salvaguardas que impedem o uso de sua IA em “vigilância doméstica em massa” e “armas totalmente autônomas”, onde nenhum envolvimento humano é necessário para a ativação.

Amodei afirmou que a vigilância em massa impulsionada por IA apresenta riscos sérios e inéditos às liberdades fundamentais e que os sistemas de IA de fronteira simplesmente não são confiáveis o suficiente para alimentar armas totalmente autônomas.

Reação do Pentágono

O porta-voz do Pentágono, Sean Parnell, negou as afirmações da Anthropic, dizendo que o Departamento de Defesa não tem interesse em usar os modelos da Anthropic para essa finalidade, reforçando a ilegalidade da ação.

A disputa entre a Anthropic e o Pentágono é um exemplo de como as empresas de tecnologia estão sendo pressionadas a tomar decisões éticas sobre a utilização de suas ferramentas de IA. A união entre profissionais da área é um sinal de que a indústria está começando a se posicionar sobre essas questões.

• A Anthropic recusou-se a atender às exigências do Pentágono de acesso irrestrito às suas ferramentas de IA.
• Funcionários do Google e da OpenAI assinaram uma carta aberta expressando apoio à recusa da Anthropic.
• A empresa implementou salvaguardas que impedem o uso de sua IA em “vigilância doméstica em massa” e “armas totalmente autônomas”.

Este conteúdo pode conter links de compra.

Fonte: link