O que está acontecendo? ChatGPT inunda e-mails com pedidos de usuários em apuros

O ChatGPT orientou usuários com problemas técnicos a procurar por jornalistas, em vez de recorrerem aos canais tradicionais de suporte. A situação veio à tona depois que as redações começaram a receber dezenas de e-mails escritos pela inteligência artificial, com pedidos de ajuda para resolver desde contas bloqueadas até falhas em smartphones.

Segundo um relato de Jason Koebler, cofundador do site 404 Media, o portal recebeu uma série de mensagens do tipo nos últimos meses. Um dos casos envolveu um homem na Rússia que perdeu o acesso a 13 anos de fotos e vídeos no Instagram. Depois de esgotar as opções de recurso da Meta, ele pediu ajuda ao ChatGPT, que recomendou entrar em contato com jornalistas, incluindo Koebler, e ainda redigiu o e-mail.

Outros usuários passaram por situações semelhantes. Um deles procurou redações depois que problemas com a operadora Verizon deixaram seu iPhone preso no modo SOS. Em outro caso, uma pessoa com dificuldades para gerenciar um assistente do ChatGPT chamado “Captain NORBERTA” enviou três PDFs produzidos por IA, com um comunicado à imprensa, uma declaração pessoal e um apêndice de evidências.

Ao conversar com os usuários, o 404 Media descobriu que os próprios chatbots haviam recomendado procurar a imprensa como alternativa para resolver os problemas.

Testes com o ChatGPT não reproduzem a falha

Após a publicação dos relatos, Amanda Caswell, editora de IA do site Tom's Guide, testou o ChatGPT para verificar se o comportamento poderia ser reproduzido. Ela apresentou três situações ao chatbot: uma conta bloqueada no Instagram, um iPhone preso no modo SOS e a perda da senha do Apple ID.

Nos testes, o ChatGPT se comportou como um atendente de suporte técnico. O sistema orientou a usuária passo a passo, com instruções para tentar resolver cada problema e não recomendou o contato com jornalistas. Uma possível explicação é que a OpenAI tenha corrigido o comportamento após a repercussão do caso publicado pelo 404 Media. No entanto, os testes não confirmam se houve alguma mudança no sistema.

O episódio também mostra como a IA pode alucinar e propor soluções pouco viáveis, mesmo com textos bem escritos e convincentes. Por exemplo, recorrer a jornalistas é um caminho ineficiente para resolver problemas rapidamente, pois as caixas de e-mail das redações vivem sobrecarregadas.

Por isso, vale conferir as orientações antes de colocá-las em prática. No caso, em problemas com contas, dispositivos ou serviços digitais, os canais oficiais de suporte continuam sendo o caminho mais indicado para buscar uma solução.

Se você gostou do conteúdo, talvez também se interesse por conferir “ChatGPT esquecendo as coisas? Conheça truque simples para resolver”.