Líder de Hardware da OpenAI Deixa Empresa após Acordo com o Pentágono

A líder de hardware da OpenAI, Caitlin Kalinowski, anunciou sua saída da empresa após um acordo com o Departamento de Defesa dos Estados Unidos. O acordo visa implementar modelos de inteligência artificial (IA) em redes classificadas do Pentágono, o que gerou preocupações sobre a falta de salvaguardas adequadas.

Kalinowski expressou suas preocupações sobre o papel da IA na segurança nacional, destacando os riscos da tecnologia, como a vigilância de americanos sem supervisão judicial e a autonomia letal sem autorização humana. Ela definiu a situação como uma preocupação de governança e afirmou que o anúncio ocorreu sem a definição de “guardrails” (barreiras de proteção) necessárias.

Reação da OpenAI e do Mercado

A OpenAI rebateu as críticas de Kalinowski, afirmando que o acordo com o Pentágono possui salvaguardas técnicas e contratuais. No entanto, a parceria gerou reações no mercado, com desinstalações do ChatGPT subindo 295% entre os consumidores. O aplicativo concorrente Claude, desenvolvido pela Anthropic, alcançou o topo da App Store nos EUA.

A questão do Pentágono com as Big Techs é complexa, com a Anthropic recusando os termos exigidos pelo governo americano devido a preocupações sobre o uso de sua IA para vigilância em massa e armamento autônomo. Em retaliação, o Departamento de Defesa classificou a Anthropic como um risco à cadeia de suprimentos.

• A Microsoft, Google e Amazon decidiram manter a oferta dos produtos da Anthropic para o setor privado, apesar das sanções do governo.
• O CEO da Anthropic, Dario Amodei, informou que contestará a designação na Justiça.
• A parceria entre a OpenAI e o Pentágono é um exemplo da crescente colaboração entre as Big Techs e o governo americano, com implicações significativas para a segurança nacional e a privacidade dos cidadãos.

Em resumo, a saída de Kalinowski da OpenAI é um exemplo da crescente preocupação sobre a ética e a governança da IA, especialmente em relação à colaboração entre as Big Techs e o governo americano. A questão do Pentágono com as Big Techs é complexa e tem implicações significativas para a segurança nacional e a privacidade dos cidadãos.

Este conteúdo pode conter links de compra.

Fonte: link