Microsoft Copilot: Um Novo Alvo para Ciberataques

O Microsoft Copilot, uma ferramenta de inteligência artificial (IA) da Microsoft, está sendo utilizado por ciberatacantes para roubar dados de usuários. Pesquisadores de cibersegurança da Varonis identificaram uma campanha maliciosa chamada “Reprompt”, que sequestra sessões legítimas da ferramenta de IA da Microsoft, permitindo que informações sensíveis sejam extraídas.

O ataque funciona por meio de três técnicas: a partir dos comandos do recurso, mais especificamente do parâmetro “q” na URL que é executado automaticamente quando a página é carregada; uma requisição dupla, que permite que hackers consigam burlar medidas de segurança contra vazamentos de dados na IA; e uma requisição em cadeia, que consiste no envio constante de instruções ao Copilot, vindas diretamente do sistema comprometido.

Como o Ataque Funciona

• O ataque se concretiza por meio de um alerta corrompido que está camuflado em uma URL verdadeira, permitindo que os criminosos contornem configurações de segurança do Copilot.
• O Reprompt não precisa se apoiar em plugins ou outras estratégias para roubar dados na ferramenta, acessando o histórico de conversas do usuário e outros dados pessoais apenas com base em permissões concedidas.
• Os pesquisadores da Varonis detectaram que o ataque contra o Copilot se concretiza por meio de três técnicas, incluindo a injeção de prompts que cria um canal de troca contínua entre a ferramenta e os servidores criminosos.

Devido às estratégias utilizadas, o ataque Reprompt chama a atenção pelo modo furtivo e praticamente invisível em que promove suas ações maliciosas para roubar dados de usuários pelo Copilot. No entanto, a Microsoft está ciente do problema e já promoveu medidas para combater a vulnerabilidade com uma recente atualização de segurança.

Este conteúdo pode conter links de compra.

Fonte: link