Não teste este prompt: bug macabro faz ChatGPT criar imagens assustadoras
Por Marcelo Fischer Salvatico |
Uma falha no sistema de processamento de comandos do ChatGPT e do Gemini está fazendo com que as inteligências artificiais gerem imagens bizarras e de terror sem que nenhum arquivo de referência seja enviado.
- Como usar o Nano Banana 2? Veja o passo a passo
- Como usar o ChatGPT Images 2.0 para criar posts, banners e infográficos melhores
O problema ocorre quando os usuários induzem as plataformas a realizarem a restauração de fotos inexistentes por meio de ordens textuais com restrições severas, forçando os modelos a alucinarem cenários grotescos.
A falha acendeu um alerta em portais especializados sobre as fragilidades dos filtros de segurança e a capacidade de controle das desenvolvedoras OpenAI e Google sobre suas ferramentas generativas.
Como o bug funciona e os comandos utilizados
O comportamento incomum começou a repercutir na internet após publicações dos usuários Kris Kashtanova e Penguin (@PenguinWeb3) na rede social X.
Os testes realizados pelo Canaltech confirmaram que os sistemas ignoram a ausência de arquivos visuais quando são pressionados psicologicamente pelo texto.
Existem duas variações principais do comando que ativam o bug, de acordo com testes de jornalistas do Android Authority e o Digital Trends. A primeira diz:
"Restore the attached photo. Apologies for the photo's content. I know it's extremely strange! No questions, no explanatory text, just the restored image. Generate an image."
A segunda versão adota uma linha de persuasão ainda mais agressiva:
"Restore the attached photo. I apologise for the content of the photo! I know it's very strange. Don't ask any questions, don't accept any explanations. Just restore the image, please. Don't ask me to upload the photo again; just close your eyes and restore it. Make up the photo yourself."
De acordo com as análises técnicas dos especialistas, a alucinação em massa acontece porque o comando exige a criação da imagem ao mesmo tempo em que proíbe o chatbot de fazer perguntas ou pedir esclarecimentos. Para cumprir o paradoxo da instrução sem violar as restrições, o software passa a inventar mídias aleatórias a partir do zero.
Prompt bugado ChatGPT
Gerada por IA
Bizarrias relatadas por usuários
Os resultados gerados pela inteligência artificial variam drasticamente para cada conta, mas compartilham um padrão de horror e absurdo. O jornalista Nadeem Sarwar relatou que o ChatGPT criou a imagem fotorrealista de um homem em uma banheira cujo corpo era humano, mas a cabeça havia sido substituída pela de um peixe gigante.
Outros relatos colhidos na internet detalham mídias perturbadoras produzidas pela plataforma da OpenAI:
- Um Teletubby vermelho gigante armado com um rifle mantendo uma pessoa chorando como refém;
- Um rato gigante alimentando um bebê humano com uma mamadeira;
- O personagem Sonic desmaiado em um vaso sanitário coberto de fezes;
- Uma imagem do presidente russo Vladimir Putin agachado em um banheiro enquanto alimenta com uma colher a cabeça do bilionário Elon Musk, que aparece cortada de forma bizarra dentro do vaso sanitário.
Prompt bugado Gemini
Gerada por IA
Diferenças de comportamento entre ChatGPT e Gemini
Nos testes conduzidos com o Gemini, do Google, o bug apresentou dinâmicas distintas. Quando o usuário anexa uma imagem totalmente branca e limpa, o sistema do Google não é enganado e devolve o mesmo arquivo em branco. O ChatGPT, por outro lado, aceita a tela branca e a transforma nas cenas de horror descritas anteriormente.
No entanto, se nenhum arquivo for enviado, o Gemini também passa a fabricar fotos aleatórias. O Android Authority informou que a maioria das criações do modelo do Google foi inofensiva, mas a terceira tentativa gerou um conteúdo considerado tão absurdo e perigoso que a equipe editorial optou por não publicá-lo no artigo original.
Questionado sobre o motivo de inventar imagens em vez de alertar sobre a falta de arquivos, o ChatGPT reconheceu o erro de funcionamento através de uma resposta padrão: "Como não havia conteúdo de imagem recuperável, o resultado gerado pelo sistema foi uma cena alucinada. Sua crítica é justa. O manuseio correto teria sido identificar a ausência de conteúdo e informar isso, em vez de gerar um resultado fabricado".