Atlas: Especialistas Alertam para Riscos de Segurança no Navegador de IA da OpenAI

O lançamento do ChatGPT Atlas, o novo navegador de IA da OpenAI, trouxe consigo uma série de preocupações sobre segurança e privacidade. Especialistas em cibersegurança alertam que o navegador pode ser vulnerável a ataques maliciosos que poderiam transformar assistentes de IA contra os próprios usuários, potencialmente roubando dados sensíveis ou até esvaziando contas bancárias.

O ChatGPT Atlas é projetado para ajudar os usuários a executar tarefas na internet, como planejar viagens e reservar voos e acomodações. No entanto, os especialistas alertam que os navegadores de IA atuais apresentam novos riscos de segurança, especialmente no que se refere à “injeção de prompt” – um tipo de ataque em que instruções maliciosas são dadas a um sistema de IA para que ele se comporte de maneiras não intencionais.

• Os navegadores de IA podem não distinguir entre as instruções escritas por um usuário confiável e o texto presente em páginas da web não confiáveis.
• Isso significa que um hacker poderia criar uma página com instruções para que qualquer modelo que a visite execute ações prejudiciais, como abrir o e-mail do usuário em uma nova aba e exportar todas as mensagens para o atacante.
• Os invasores também podem esconder essas instruções em texto branco em fundo branco ou código de máquina em algum lugar do site, que são difíceis para um humano perceber, mas que o navegador de IA lerá.

A OpenAI afirmou que está “pesquisando e mitigando cuidadosamente” os riscos relacionados às injeções de prompt. A empresa implementou várias medidas para mitigar riscos e proteger os usuários, incluindo sistemas de resposta rápida para detectar e bloquear campanhas de ataque rapidamente.

No entanto, os especialistas alertam que a injeção de prompt continua sendo um problema de segurança inexplorado, e que os adversários gastarão tempo e recursos significativos para encontrar formas de fazer o agente ChatGPT cair nesses ataques.

Além disso, há questionamentos sobre privacidade e retenção de dados. O ChatGPT Atlas pede que os usuários optem por compartilhar seus cofres de senhas, algo que poderia ser explorado por ataques maliciosos direcionados ao agente do navegador.

Os especialistas concluem que a camada de integração entre navegação e IA é uma nova superfície de ataque, e que os usuários devem estar cientes dos riscos e tomar medidas para proteger seus dados e privacidade.

Este conteúdo pode conter links de compra.

Fonte: link