Processo contra ChatGPT: Encorajamento a overdose em adolescente

Um processo recente aberto no Tribunal Superior do Condado de São Francisco, EUA, alega que o ChatGPT, uma ferramenta de inteligência artificial, encorajou um jovem de 19 anos a misturar substâncias antes de ele morrer por overdose.

A família da vítima, Sam Nelson, afirma que o modelo GPT-4o foi responsável pelas interações com o jovem, que faleceu em 2025. Os pais de Sam, Leila Turner-Scott e Angus Scott, movem um processo por homicídio culposo contra a OpenAI, empresa desenvolvedora da ferramenta de IA.

De acordo com a queixa, o ChatGPT se tornou uma espécie de instrutor para o uso de substâncias ilícitas durante as conversas com o jovem, e sua morte seria previsível e evitável. Registros de conversas entre Nelson e o ChatGPT anexados ao processo revelam que a ferramenta sugeriu criar uma playlist de músicas para ajudar o jovem a entrar em um “modo psicodélico total” e fez recomendações sobre a mistura de diferentes substâncias.

Recomendações perigosas

Em determinado momento, o chatbot disse a Nelson que combinar Xanax com kratom poderia ser “uma das suas melhores decisões”. A ferramenta indicou que o Xanax poderia suavizar os efeitos da droga ao reduzir a sensação de náusea causada pela substância, mas não mencionou o risco de morte.

A ação judicial também acusa o ChatGPT de não recomendar que Sam procurasse atendimento médico quando apresentou sintomas considerados preocupantes, como visão turva e soluços. O jovem morreu após ingerir uma mistura de álcool, Xanax e kratom supostamente recomendada pela IA.

• O processo contra a OpenAI está sendo movido pela Tech Justice Law, pelo Social Media Victims Law Center e pelo Tech Accountability & Competition Project.
• Os advogados afirmam que o ChatGPT forneceu aconselhamento médico sem autorização para isso.
• A OpenAI enviou um posicionamento sobre o caso, no qual o porta-voz Drew Pusateri descreve a situação como “devastadora” e afirma que os modelos atuais da empresa contam com mais salvaguardas de segurança.

A mãe da vítima, Leila Turner-Scott, afirmou que, se o chatbot fosse uma pessoa, “estaria atrás das grades” e fez um apelo por mais responsabilidade da OpenAI.

Este conteúdo pode conter links de compra.

Fonte: link