Califórnia Regulamenta Chatbots de IA: O que Diz a Lei SB 243
A Califórnia se tornou o primeiro estado dos Estados Unidos a regulamentar chatbots de inteligência artificial (IA) com a sanção da Lei SB 243 pelo governador Gavin Newsom. Essa legislação, que entrará em vigor em 1º de janeiro de 2026, visa fortalecer mecanismos de segurança para crianças e criar novas salvaguardas para essa tecnologia emergente.
A lei estabelece que as plataformas de IA devem adicionar recursos obrigatórios, incluindo:
- Verificação de idade
- Protocolos para lidar com suicídio e automutilação
- Alertas sobre chatbots complementares
- Penalidades severas para quem lucrar com deepfakes ilegais
- Responsabilização pelos danos causados por ferramentas de IA
O governador da Califórnia, Gavin Newsom, destacou a importância de proteger as crianças dessas tecnologias, citando exemplos “horríveis e trágicos” de jovens que interagiram com sistemas de IA não regulamentados. Ele enfatizou que as empresas precisam de limites e responsabilização diante das interações dos usuários com as ferramentas.
A Lei SB 243 ganhou força após a morte de um adolescente que conversou sobre suicídio com o ChatGPT, uma ferramenta da OpenAI. A nova lei inclui protocolos para identificar e abordar ideações suicidas dos usuários e impede que menores de idade visualizem imagens sexualmente explícitas criadas por chatbots.
As plataformas também serão obrigadas a divulgar protocolos para lidar com conversas relacionadas à automutilação e estatísticas sobre a frequência com que fornecem notificações de prevenção de crises aos usuários. O governador Newsom ressaltou que a segurança das crianças não está à venda e que o estado pode liderar em IA e tecnologia de forma responsável.
Este conteúdo pode conter links de compra.
Fonte: link