A Reação aos Planos da OpenAI de Liberar Conteúdo Adulto no ChatGPT

A OpenAI, empresa por trás do assistente de inteligência artificial ChatGPT, anunciou recentemente planos de disponibilizar conteúdo sexualmente explícito em sua plataforma, começando em dezembro. Essa decisão foi tomada com o objetivo de tratar usuários adultos como adultos, segundo o CEO Sam Altman. No entanto, a medida não foi bem recebida por grupos antipornografia, que expressaram preocupações sobre os riscos potenciais para a saúde mental e a segurança dos usuários.

A OpenAI havia limitado anteriormente o ChatGPT devido a questões de saúde mental, mas agora se sente segura para relaxar essas restrições com o amadurecimento dos sistemas de segurança e novas ferramentas para mitigar riscos graves. Além do conteúdo erótico, restrito a adultos verificados, a empresa também planeja permitir que os usuários personalizem a personalidade da IA, incluindo opções para respostas mais humanas, uso de emojis ou comportamento amistoso.

Mecanismos de Verificação de Idade

Para implementar essas funcionalidades, a OpenAI está desenvolvendo recursos de controle de idade, incluindo uma tecnologia de prognóstico baseada na idade para estimar se o usuário tem 18 anos ou mais. Caso essa estimativa falhe, os usuários poderão enviar um documento de identidade para confirmar a maioridade. No entanto, a empresa não forneceu detalhes sobre os métodos específicos de verificação ou os controles de segurança adicionais que serão utilizados.

Críticas ao ChatGPT +18

O Centro Nacional de Exploração Sexual (NCOSE) classificou a decisão como arriscada e pediu à OpenAI que a revertesse, argumentando que os chatbots sexualizados são inerentemente perigosos e podem causar danos reais à saúde mental. Além disso, especialistas alertam sobre os riscos potenciais de privacidade e armazenamento de dados pessoais com a exigência de envio de documentos de identidade para a verificação de idade.

As preocupações éticas e de segurança são centrais nesse debate, especialmente considerando a investigação da Comissão Federal de Comércio (FTC) dos Estados Unidos sobre como os chatbots afetam negativamente crianças e adolescentes. A OpenAI assegura que as novas ferramentas de segurança permitirão diminuir as restrições sem negligenciar esses riscos graves, mas a cautela e a vigilância serão essenciais para garantir a segurança e o bem-estar dos usuários.

• A OpenAI planeja liberar conteúdo adulto no ChatGPT, começando em dezembro.
• A empresa está desenvolvendo recursos de controle de idade para restringir o acesso a esse conteúdo.
• Grupos antipornografia e especialistas expressam preocupações sobre os riscos potenciais para a saúde mental e a segurança dos usuários.

Este conteúdo pode conter links de compra.

Fonte: link