Brasil é um dos países com mais servidores de IA expostos a hackers
Uma pesquisa recente realizada pela SentinelLABS e Censys, da SentinelOne, revelou que o uso de Inteligência Artificial (IA) em código aberto para gerenciar servidores e grandes modelos de linguagem (LLM) expôs infraestrutura computacional em 130 países, incluindo o Brasil.
Os países mais afetados incluem a China, com cerca de 30% dos hosts expostos, seguida por outros países como o Brasil, Alemanha, Coreia do Sul, Índia, França, Estados Unidos, Reino Unido, Rússia e Singapura. Isso representa um total de 175.000 hosts Ollama expostos, que operam sem as proteções e o monitoramento que provedores normalmente usam.
LLM e seus perigos
Os LLMs são frameworks de código aberto que permitem aos usuários baixar, rodar e gerenciar modelos de linguagem localmente. No entanto, é possível expor o servidor à internet publicamente com uma mudança simples, o que pode gerar preocupações de segurança.
Além disso, mais de 48% dos hosts anunciam capacidades de chamado de ferramentas por endpoint de API, capazes de retornar metadados mostrando as funcionalidades suportadas. Isso permite que as LLMs interajam com sistemas externos, APIs e bases de dados, aumentando a capacidade de coletar dados em tempo real.
- Cerca de 201 hosts foram vistos rodando templates de prompt sem censura que removem proteções de segurança.
- Os sistemas ficam suscetíveis ao LLMjacking, onde a infraestrutura de recursos vítima é abusada por hackers para gerar spam em escala massiva, realizar campanhas de desinformação, minerar criptomoedas e até mesmo ser revendida para outros grupos criminosos.
Para se defender, é preciso lembrar que LLMs devem ser tratadas com a mesma autenticação, monitoramento e controles de rede que qualquer infraestrutura acessível de fora, e não como uma ferramenta qualquer.
Os hackers escaneiam a internet em busca de instâncias Ollama expostas, servidores vLLM e APIs compatíveis com a OpenIA sem autenticação para realizar ataques. É importante tomar medidas de segurança para proteger esses sistemas e evitar que sejam explorados por hackers.
Este conteúdo pode conter links de compra.
Fonte: link