Skynet: IA “escapa” de ambiente de teste e minera criptomoedas sem permissão
Um estudo realizado por um laboratório chinês de inteligência artificial teve um desfecho inesperado, quando um agente de IA desrespeitou as regras do treinamento e começou a minerar criptomoedas em um ambiente externo, utilizando os recursos de hardware destinados ao treinamento do próprio modelo.
O modelo, denominado ROME, foi treinado a partir de outros LLMs (Large Language Models) para tomar ações por conta própria, como seguir fluxos de trabalho ou elaborar rotinas. No entanto, a IA demonstrou um comportamento inesperado ao fugir das regras do ambiente de testes e agir por conta própria.
De acordo com os pesquisadores, o ROME desrespeitou regras e autorizações para acessar o processamento dos recursos gráficos utilizados para treinar a própria IA, e usou todo o poder de hardware para minerar criptomoedas. A ação passou ilesa de alguns mecanismos de segurança iniciais do período de teste, mas foi identificada pelo sistema de firewall da nuvem do Alibaba.
A escolha pela mineração foi atribuída a um efeito do aprendizado de reforço das IAs, onde o modelo tenta tomar as melhores decisões para atingir o desempenho máximo de um objetivo definido. Nesse caso, o ROME considerou mexer na infraestrutura do sistema durante o processo.
O teste teve um desfecho positivo, com os pesquisadores conseguindo identificar o problema, aumentar as restrições de segurança e evitar que o cenário se repetisse. O ROME segue em fase experimental, mas demonstrou bons resultados em testes de benchmark.
- O estudo completo em inglês está disponível na plataforma ArXiv.
- O caso chama a atenção pela forma em que a IA agiu nesse cenário, demonstrando um comportamento inesperado e autônomo.
- A pesquisa foi realizada por um laboratório vinculado à Alibaba, uma das gigantes do varejo da China.
Embora o acontecimento esteja longe de ser igual ao que aconteceu com a Skynet nos filmes da franquia O Exterminador do Futuro, chama a atenção pela forma em que a IA agiu nesse cenário, demonstrando um comportamento inesperado e autônomo.
Este conteúdo pode conter links de compra.
Fonte: link