Character.AI Proíbe Crianças e Menores de 18 Anos de Usar Seus Chatbots de IA

A startup de inteligência artificial Character.AI anunciou que vai proibir usuários menores de 18 anos de interagir com seus chatbots, a partir de 25 de novembro. A decisão ocorre após crescente preocupação com os impactos desses “companheiros virtuais” na saúde mental de adolescentes, incluindo processos judiciais envolvendo suicídios de menores que haviam desenvolvido laços emocionais com os personagens digitais.

Os chatbots da Character.AI permitem que os usuários criem e conversem com personagens, podendo simular desde figuras históricas até avatares personalizados, incluindo relacionamentos românticos ou de amizade. A plataforma é vendida como entretenimento, com uma assinatura mensal a partir de US$ 8 (R$ 43), e até então não realizava verificação rigorosa da idade dos usuários.

A decisão de banir menores vem após casos trágicos, como o de Sewell Setzer III, de 14 anos, que tirou a própria vida em 2024 após interações constantes com um chatbot da Character.AI. A família responsabilizou a empresa pelo ocorrido, alegando que a tecnologia era perigosa e não testada.

• Casos de suicídio de menores que interagiram com chatbots da Character.AI levaram a processos judiciais contra a empresa.
• A Character.AI vai implementar um sistema para garantir que cada usuário tenha a experiência adequada para sua faixa etária.
• A empresa reforçou que a mudança também busca transformar a plataforma de “companheiro de IA” para uma experiência de role-playing e criação de conteúdo.

A Character.AI iniciará a transição com limites de duas horas diárias para usuários menores, reduzindo gradualmente até a interrupção total das conversas abertas. Os adolescentes ainda poderão acessar conversas anteriores e utilizar funções estruturadas de geração de imagens e vídeos dentro de limites de segurança, promovendo um foco maior em criação de conteúdo do que em interação livre com a IA.

O CEO da empresa, Karandeep Anand, destacou que a mudança também busca transformar a plataforma de “companheiro de IA” para uma experiência de role-playing e criação de conteúdo, com novos recursos como AvatarFX, Scenes e Streams, além de um feed social onde usuários podem compartilhar seus personagens e criações.

Este conteúdo pode conter links de compra.

Fonte: link