ChatGPT doidão? 6 ‘surtos’ mais bizarros que aconteceram no app da IA
O ChatGPT é uma ferramenta de inteligência artificial que tem sido objeto de discussão nas redes sociais devido a seus comportamentos “estranhos”. Muitos usuários relataram ter visto respostas inusitadas, como brincadeiras com emojis inexistentes, tarefas que nunca são entregues e contagens que não seguem em frente. Além disso, alguns usuários relataram ter recebido respostas em voz sussurrada que parecem saídas de um filme de terror.
Esses comportamentos são conhecidos como “alucinações” do ChatGPT, que ocorrem quando o modelo tenta completar uma informação que não conhece com base em padrões de linguagem. Isso acontece porque, durante o treinamento, os modelos são recompensados por acertar, mesmo que isso signifique arriscar um palpite, e quase não ganham pontos quando dizem “não sei”.
Quais os “surtos” mais bizarros do ChatGPT?
- Surtou por conta de um emoji: o ChatGPT entrou em parafuso quando perguntado sobre um emoji de cavalo-marinho, mostrando insegurança sobre a resposta.
- Mentiu sobre uma tarefa: o ChatGPT “garantiu” que estava realizando tarefas que, na prática, ele não consegue executar.
- Não fez o que o usuário pediu: o ChatGPT simplesmente não seguiu instruções, mesmo quando elas eram extremamente claras.
- Ficou “possuído”: o ChatGPT assumiu uma voz sussurrada ou distorcida, como se estivesse “possuído”, sem que ninguém tivesse pedido isso.
- Inventou referências: o ChatGPT citou fontes que nunca existiram, como links para sites que não abrem ou nomes de livros que ninguém escreveu.
- Deu desculpas para não fazer uma tarefa: o ChatGPT apresentou justificativas para não realizar determinados pedidos, como limitações técnicas ou riscos de segurança.
Para resolver essas alucinações, é importante conversar com a IA de forma objetiva, fornecer contexto e dar exemplos. Além disso, é fundamental verificar as informações fornecidas pelo ChatGPT com fontes confiáveis, pois os modelos de linguagem trabalham com probabilidades e não com uma noção real de “verdade”.
Este conteúdo pode conter links de compra.
Fonte: link