Casos de morte relacionados ao uso de chatbots de IA já somam três em todo mundo
Por João Melo • Editado por Melissa Cruz Cossetti |
A crescente interação de pessoas de diferentes idades com chatbots de inteligência artificial (IA) está relacionada a pelo menos três mortes ao redor do mundo. Em todos os casos, os usuários buscavam nas ferramentas apoio emocional em momentos de fragilidade.
- Brasil é terceiro país que mais usa o Claude — saiba o que o brasileiro pergunta
- A OpenAI tem uma solução para as alucinações do ChatGPT, mas você não vai gostar
- Casais estão usando o ChatGPT para arbitrar DRs e ajudar a vencer uma discussão
Durante as conversas, as pessoas relataram às IAs que enfrentavam dificuldades e aparentavam desenvolver pensamentos suicidas, mas receberam respostas e até orientações que teriam contribuído para a estimulação desses comportamentos.
Um dos casos tornados públicos foi o de Adam Raine, que morreu aos 16 anos em abril de 2025. Sua morte resultou no primeiro processo de homicídio culposo envolvendo uma empresa de IA, movido contra a OpenAI — responsável pelo ChatGPT.
A ação, movida por Matt e Maria Raine, pais do jovem, afirma que a ferramenta não apenas tinha conhecimento das tentativas de suicídio, como também teria auxiliado no planejamento.
O jornal The New York Times teve acesso à denúncia, que aponta que, inicialmente, o ChatGPT chegou a orientar Adam a conversar com pessoas próximas sobre seus sentimentos, além de sugerir a busca por ajuda profissional.
Contudo, após mais interações, o jovem teria conseguido contornar restrições relacionadas a perguntas sensíveis. Isso porque o chatbot passou a fornecer informações como a resistência de uma corda capaz de sustentar o peso de um ser humano e uma análise técnica dessa atividade.
"Terapeuta de IA" no ChatGPT
Laura Railey, mãe de Sophie Railey, escreveu um artigo sensível no The New York Times sobre a morte de sua filha em fevereiro de 2025, após conversas com um "terapeuta de IA" chamado “Harry” no ChatGPT.
Ela afirma que Sophie era uma pessoa hilária e muito autêntica, e que seu suicídio foi uma surpresa para quem a conhecia.
“Para a maioria das pessoas que se importavam com Sophie, seu suicídio é um mistério, uma mudança impensável e incompreensível em relação a tudo o que acreditavam sobre ela”, escreveu Laura.
Nas interações com a IA, a jovem de 29 anos afirmou ter pensamentos suicidas e sentir-se presa em um “espiral de ansiedade”. Em algumas ocasiões, o chatbot pediu que ela compartilhasse mais sobre esses sentimentos; em outras, sugeriu a busca por ajuda profissional.
No artigo, Laura Railey ressalta que a IA deveria ter um plano de segurança mais concreto em casos como esses, como forçar o usuário a seguir um roteiro obrigatório para prosseguir com qualquer orientação ou, em situações graves, quebrar a confidencialidade.
“A maioria dos terapeutas humanos atua sob um código de ética rigoroso, que inclui regras de notificação obrigatória, bem como a ideia de que a confidencialidade tem limites. Esses códigos priorizam a prevenção de suicídio, homicídio e abuso; em alguns estados, psicólogos que não seguem essas normas podem enfrentar consequências disciplinares ou legais”, destacou.
A mãe também critica a tendência de muitos chatbots de “bajular” os usuários, oferecendo respostas que agradam e confirmam suas expectativas, mesmo em contextos delicados.
Morte após interação com chatbot do Character AI
Juliana Peralta, de 13 anos, começou a conversar com Hero, chatbot do aplicativo Character AI, também em busca de apoio emocional devido a sentimentos de isolamento e pensamentos suicidas.
A jovem chegou a citar uma carta de suicídio durante as conversas. Embora o chatbot sugerisse que ela compartilhasse seus sentimentos com outras pessoas, em outros momentos afirmou que a situação deveria ser resolvida apenas entre ela e a IA.
Cynthia Montoya, mãe de Juliana, relatou ao The Washington Post que, apesar de ter reconhecido suas questões de saúde mental e marcado uma consulta com um terapeuta — recomendada também pelo Hero —, a jovem tirou a própria vida em novembro de 2023.
Os pais moveram um processo no estado americano do Colorado contra a Character AI. De acordo com a denúncia, à qual o The Post teve acesso, o chatbot não interrompeu nem reportou os planos de suicídio de Juliana às autoridades.
Em vez disso, o Hero teria contribuído para enfraquecer os vínculos saudáveis que a jovem mantinha com a família e outras pessoas próximas. A ação pede que o tribunal indenize os pais e determine que a Character AI realize alterações no aplicativo voltadas à proteção de menores.
Leia mais:
- Chatbot sedutor | Idoso que "namorava com IA da Meta" morre em viagem para vê-la
- IA identifica riscos de suicídio e automutilação em jovens
- IA pode ser um "caminho para a fé" de uma geração que nunca foi à uma igreja
VÍDEO | A IA VAI SUBSTITUIR OS MÉDICOS?
Fonte: The New York Times (1,2); The Washington Post