Caso de Processo contra a OpenAI

A OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, está sendo processada por familiares de vítimas de um massacre armado ocorrido em Tumbler Ridge, no Canadá. O processo acusa a empresa de neglicência, afirmando que a pessoa atiradora discutiu o tiroteio com o ChatGPT e a empresa tinha ciência disso, mas não alertou as autoridades.

De acordo com os dados do processo, a atiradora Jesse Van Rootselaar, que tinha 18 anos, conversava com o ChatGPT sobre temas sensíveis envolvendo o ataque. O tiroteio em fevereiro deste ano teve nove vítimas fatais, incluindo a própria atiradora, e foi considerado um dos massacres mais letais do Canadá.

Alegações de Negligência

Uma das ações acusa que o sistema de segurança do ChatGPT sinalizou a conta da atiradora por “planejamento e atividades com violência armada” em junho de 2025, meses antes do ocorrido. Uma equipe de proteção teria avaliado o conteúdo e pedido para que a OpenAI entrasse em contato com autoridades, mas isso não aconteceu.

A conta original foi banida, mas a jovem criou um perfil secundário logo depois. O processo ainda alerta para um “produto defeituoso” da OpenAI, visto que o modelo GPT-4o tendia a reforçar as ideias do usuário no lugar de interromper qualquer comportamento nocivo.

Resposta da OpenAI

A OpenAI enviou uma carta assinada pelo CEO, Sam Altman, ao município de Tumbler Ridge no começo da semana. Altman prestou condolências aos familiares das vítimas e pediu desculpas por não ter alertado as autoridades sobre a conta banida em junho do ano passado.

A empresa ainda publicou um comunicado no site oficial para destacar algumas medidas aplicadas para aumentar a segurança da comunidade do ChatGPT. O assistente é treinado para impedir conversas quando uma interação avança para ameaças, planejamento de ações no mundo real e prejuízo em potencial para outras pessoas.

Com relação ao contato com autoridades, a companhia afirma que isso acontece quando “as conversas indicam um risco crível de prejuízo a outros”.

• A OpenAI está sendo processada por familiares de vítimas de um massacre armado no Canadá.
• A empresa é acusada de neglicência por não ter alertado as autoridades sobre a conta da atiradora.
• O modelo GPT-4o é considerado um “produto defeituoso” por reforçar as ideias do usuário em vez de interromper comportamentos nocivos.

Este conteúdo pode conter links de compra.

Fonte: link