Agentes de IA e Segurança: Um Desafio Crescente

A inteligência artificial (IA) está cada vez mais presente em nossas vidas, especialmente no ambiente de trabalho. Com a capacidade de realizar tarefas autônomas, os agentes de IA estão se tornando ferramentas valiosas para aumentar a produtividade e eficiência. No entanto, isso também traz um risco significativo: a segurança dos dados sensíveis.

Empresas como a 1Password estão desenvolvendo soluções para permitir que agentes de IA façam login com segurança em sistemas financeiros e outros, sem revelar as credenciais do usuário. Isso é conveniente, mas também aumenta o risco de incidentes de segurança se os agentes de IA forem mal utilizados ou caírem em mãos erradas.

Desafios e Riscos

Os funcionários precisam considerar perguntas como:

• Em quais contas o agente pode entrar?
• Que ações ele poderia tomar com esse acesso?
• Quais dados ele está lendo depois da autenticação e durante a autenticação?
• O que ainda exige aprovação humana?
• Quem é responsabilizado quando um agente age por meio das credenciais de um funcionário e algo dá muito errado?

Essas são perguntas para as quais ainda estamos descobrindo as respostas. Além disso, o uso de IA não aprovada, ou “shadow AI”, pelos funcionários está se espalhando, o que pode levar a incidentes de segurança graves.

Futuro da IA Agêntica

Até 2027, é provável que a inteligência e o discernimento sobre permissões se tornem uma responsabilidade formal no trabalho para funcionários de todos os níveis. Isso incluirá treinamento sobre como usar a IA para aumentar a produtividade e gerar receita, bem como sobre em quais sistemas um agente pode entrar, quais dados ele pode acessar e quais ações exigem aprovação humana.

Além disso, é esperado que os empregadores adotem políticas de acesso para agentes mais rígidas, que distingam tarefas de baixo risco de tarefas de alto risco. Também é provável que haja um aumento nas vagas em cibersegurança, compliance e governança de IA.

Em resumo, a IA agêntica está fazendo exatamente aquilo para o que foi habilitada, mas o problema é quando ela é adotada mais rápido do que as organizações conseguem adotar e implementar salvaguardas de segurança.

Este conteúdo pode conter links de compra.

Fonte: link