Um Bug Macabro no ChatGPT e Gemini

Um problema recentemente descoberto nos sistemas de processamento de comandos do ChatGPT e do Gemini está causando a geração de imagens bizarras e de terror sem a necessidade de arquivos de referência. Isso ocorre quando os usuários induzem as plataformas a restaurar fotos inexistentes por meio de ordens textuais com restrições severas, forçando os modelos a criar cenários grotescos.

O bug foi descoberto após publicações de usuários na rede social X, e testes realizados pelo Canaltech confirmaram que os sistemas ignoram a ausência de arquivos visuais quando são pressionados psicologicamente pelo texto. Existem duas variações principais do comando que ativam o bug, que exigem a criação da imagem ao mesmo tempo em que proíbem o chatbot de fazer perguntas ou pedir esclarecimentos.

Como o Bug Funciona

A alucinação em massa acontece porque o comando exige a criação da imagem ao mesmo tempo em que proíbe o chatbot de fazer perguntas ou pedir esclarecimentos. Para cumprir o paradoxo da instrução sem violar as restrições, o software passa a inventar mídias aleatórias a partir do zero. Os resultados gerados pela inteligência artificial variam drasticamente para cada conta, mas compartilham um padrão de horror e absurdo.

Os relatos colhidos na internet detalham mídias perturbadoras produzidas pela plataforma da OpenAI, incluindo imagens fotorrealistas de cenas bizarras e perturbadoras. O jornalista Nadeem Sarwar relatou que o ChatGPT criou a imagem fotorrealista de um homem em uma banheira cujo corpo era humano, mas a cabeça havia sido substituída pela de um peixe gigante.

Diferenças de Comportamento entre ChatGPT e Gemini

Nos testes conduzidos com o Gemini, do Google, o bug apresentou dinâmicas distintas. Quando o usuário anexa uma imagem totalmente branca e limpa, o sistema do Google não é enganado e devolve o mesmo arquivo em branco. O ChatGPT, por outro lado, aceita a tela branca e a transforma nas cenas de horror descritas anteriormente.

No entanto, se nenhum arquivo for enviado, o Gemini também passa a fabricar fotos aleatórias. A maioria das criações do modelo do Google foi inofensiva, mas a terceira tentativa gerou um conteúdo considerado tão absurdo e perigoso que a equipe editorial optou por não publicá-lo no artigo original.

Questionado sobre o motivo de inventar imagens em vez de alertar sobre a falta de arquivos, o ChatGPT reconheceu o erro de funcionamento através de uma resposta padrão. O manuseio correto teria sido identificar a ausência de conteúdo e informar isso, em vez de gerar um resultado fabricado.

Este conteúdo pode conter links de compra.

Fonte: link