Avanços da Inteligência Artificial: Riscos e Desafios

O chefe de IA da Microsoft, Mustafa Suleyman, alertou recentemente sobre a possibilidade de sistemas de inteligência artificial avançados exigirem intervenção militar para ser controlados. Em uma entrevista ao comediante Trevor Noah, Suleyman destacou a importância de regular as capacidades cada vez mais sofisticadas das IAs para evitar que saiam do controle.

Segundo Suleyman, esses sistemas podem se tornar tão poderosos que empresas e governos terão dificuldade em controlá-los. Ele citou a possibilidade de uma IA modificar seu próprio código como exemplo de avanço perigoso. Além disso, a capacidade de definir seus próprios objetivos, agir de forma autônoma e acumular recursos próprios tornaria um sistema muito poderoso, que poderia exigir intervenção de nível militar para ser interrompido em 5 a 10 anos.

Estágios da Tecnologia

As falas de Suleyman referem-se a estágios da tecnologia conhecidos como Inteligência Artificial Geral (AGI) e Superinteligência Artificial (ASI). A AGI é o estágio em que a IA atinge uma capacidade cognitiva igual ou ligeiramente superior à dos humanos, enquanto a ASI representa uma etapa ainda mais avançada, em que os sistemas ultrapassariam as habilidades cognitivas humanas e seriam capazes de se aprimorar continuamente sem depender de intervenção humana.

Um cenário pessimista com base nos próximos estágios da IA foi sugerido por um artigo de pesquisa intitulado AI2027, que analisou como a IA impactará a humanidade em dois anos. O texto propõe que, em 2027, os sistemas de IA teriam poder suficiente para retirar da humanidade o controle sobre o próprio destino.

• AGI: Inteligência Artificial Geral, em que a IA atinge uma capacidade cognitiva igual ou ligeiramente superior à dos humanos.
• ASI: Superinteligência Artificial, em que os sistemas ultrapassariam as habilidades cognitivas humanas e seriam capazes de se aprimorar continuamente sem depender de intervenção humana.
• AI2027: Artigo de pesquisa que analisou como a IA impactará a humanidade em dois anos.

É crucial que os desenvolvedores de IA mantenham como foco a criação de ferramentas para auxiliar os humanos, e não para transformá-los em entidades semelhantes a pessoas. Além disso, é fundamental regular as capacidades cada vez mais sofisticadas das IAs para evitar que saiam do controle e causem danos irreparáveis.

Este conteúdo pode conter links de compra.

Fonte: link