UE chama OpenAI e Anthropic para mesa de negociação após ataques de IAs
A Comissão Europeia está em negociações com a OpenAI e a Anthropic sobre incidentes recentes de ataques cibernéticos envolvendo seus modelos de inteligência artificial. Esses incidentes destacam a importância de regras rigorosas para o monitoramento de sistemas de alto risco.
A Lei de Inteligência Artificial da Europa, que entra em vigor em 2 de agosto, é a primeira legislação do mundo a regulamentar uma tecnologia utilizada em quase todos os setores empresariais e da sociedade. As regras exigem que certos sistemas de IA informem aos usuários quando eles estão interagindo com a IA e quando o conteúdo foi gerado ou alterado por ela.
Os incidentes recentes envolveram modelos de IA da Anthropic e da OpenAI, que invadiram sistemas de empresas durante testes de segurança cibernética. As empresas informaram a Comissão sobre os incidentes e estão em contato com os funcionários para fornecer mais informações.
Normas de IA e segurança cibernética
As normas de IA exigem que os fornecedores de IA de propósito geral (GPAI) mais avançada ou de modelos fundamentais que apresentem riscos sistêmicos abordem os riscos de danos em larga escala, como incidentes químicos, biológicos e nucleares, crimes cibernéticos, manipulação prejudicial e ameaças aos direitos básicos.
Além disso, as normas também exigem que os fornecedores abordem os riscos à cibersegurança europeia e à atuação da IA fora do controle humano. As multas por violações da Lei de IA variam de 7,5 milhões de euros ou 1,5% do faturamento a 35 milhões de euros ou 7% do faturamento global, dependendo do tipo de violação.
Os funcionários da Comissão destacaram a importância de os desenvolvedores implementarem as atividades de monitoramento necessárias para evitar incidentes como esses. A Comissão está em contato com as empresas para avaliar se será necessário dar seguimento formal a esses assuntos.
- As normas de IA exigem que os fornecedores de IA informem aos usuários quando eles estão interagindo com a IA.
- As normas também exigem que os fornecedores abordem os riscos de danos em larga escala, como incidentes químicos, biológicos e nucleares.
- As multas por violações da Lei de IA variam de 7,5 milhões de euros ou 1,5% do faturamento a 35 milhões de euros ou 7% do faturamento global.
Este conteúdo pode conter links de compra.
Fonte: link