Especialistas da ONU Querem “Linhas Vermelhas” Contra Riscos Inaceitáveis da IA
Recentemente, durante a 80ª Assembleia Geral das Nações Unidas, foi lançado o movimento Global Call for AI Red Lines, uma iniciativa que visa estabelecer limites claros e universais para o desenvolvimento da inteligência artificial. Mais de 200 laureados com o Prêmio Nobel, especialistas em tecnologia e 70 organizações ligadas à IA assinaram uma carta pública pedindo que governos do mundo estabeleçam “linhas vermelhas” para prevenir riscos inaceitáveis da IA até 2026.
A carta destaca que, embora a IA tenha potencial para promover avanços significativos no bem-estar humano, seu crescimento descontrolado pode trazer ameaças sem precedentes, incluindo:
- Pandemias artificiais ou armas biológicas criadas com auxílio de IA;
- Disseminação de desinformação em larga escala;
- Manipulação psicológica de indivíduos, incluindo crianças;
- Violações sistemáticas de direitos humanos;
- Desafios à segurança nacional e internacional;
- Desemprego em massa causado pela automação.
Os especialistas defendem que é preciso agir rapidamente antes que seja impossível manter o controle humano significativo sobre essas tecnologias. Eles propõem que os sistemas de IA avançada sejam projetados com segurança embutida desde o design, evitando que comportamentos nocivos surjam em primeiro lugar.
Alguns especialistas já propuseram exemplos práticos de “linhas vermelhas” para a IA, como:
- Não tentar se replicar;
- Nunca invadir outros sistemas computacionais;
- Não fornecer instruções para fabricar armas biológicas;
- Evitar produzir declarações falsas e prejudiciais sobre pessoas reais.
O movimento pede que os governos negociem e firmem um acordo internacional até o final de 2026, com mecanismos de aplicação e fiscalização. Os especialistas acreditam que regulamentar a IA deve seguir o exemplo de áreas críticas como energia nuclear e medicina, nas quais a dificuldade de cumprir normas não é desculpa para deixar de proteger a sociedade.
Este conteúdo pode conter links de compra.
Fonte: link