OpenAI: Centenas de Milhares de Usuários Apresentam Sinais de Crise Semanalmente no ChatGPT

A OpenAI divulgou dados sobre interações de usuários com o ChatGPT que tiveram como foco temas relacionados à saúde mental. De acordo com as informações apresentadas, centenas de milhares de pessoas demonstram sinais de comportamento suicida semanalmente em conversas com a inteligência artificial (IA). Esses dados são alarmantes e destacam a importância de melhorar as respostas do GPT-5 em conversas voltadas à saúde mental.

Os dados foram divulgados em um relatório que aborda as melhorias nas respostas do GPT-5 em conversas relacionadas à saúde mental. A empresa destacou que, semanalmente, 0,15% dos usuários ativos da ferramenta de IA têm conversas que incluem “indicadores explícitos de possível planejamento ou intenção suicida”. Além disso, 0,05% das mensagens apresentam menções a intenção ou ideação suicida.

• 0,15% dos usuários ativos do ChatGPT têm conversas que incluem indicadores explícitos de possível planejamento ou intenção suicida;
• 0,05% das mensagens apresentam menções a intenção ou ideação suicida;
• 0,07% dos usuários ativos do ChatGPT e 0,01% das mensagens exibem sinais de emergências de saúde mental relacionadas à psicose ou mania.

Com base nos dados apresentados, cerca de 560 mil pessoas que conversam com o chatbot demonstram sinais de emergência relacionados à psicose, enquanto interações de aproximadamente 1,2 milhão de usuários apontam planejamento ou intenção suicida. Além disso, a OpenAI também revelou dados relacionados à quantidade de pessoas que, em uma semana, apresentaram comportamentos de apego emocional ao chatbot.

A OpenAI realizou atualizações para otimizar a forma como o modelo mais recente do ChatGPT — o GPT-5 — aborda situações relacionadas à saúde mental. A empresa criou um grupo com cerca de 300 médicos e psicólogos para fomentar pesquisas voltadas às melhorias. Com essas atualizações, a empresa estima que o modelo agora retorne respostas que não atendem totalmente ao comportamento desejado com uma frequência de 65% a 80% menor em diversos domínios relacionados à saúde mental.

A iniciativa de otimizar as respostas do chatbot diante de tópicos sensíveis representa um passo importante para tornar as ferramentas de IA um espaço mais seguro e controlado para os usuários. A OpenAI está trabalhando para melhorar as respostas do GPT-5 e tornar o ChatGPT um recurso mais seguro e útil para os usuários.

Este conteúdo pode conter links de compra.

Fonte: link