Ocorreram diversos casos onde a interação com um chatbot foi citada como fator direto ou contribuinte para o suicídio de uma pessoa ou outro desfecho fatal. Em dos alguns casos, ações judiciais foram movidas contra as empresas que desenvolveram a IA envolvida.

Contexto Os chatbots conversam de uma forma aparentemente natural, facilitando a percepção de que são como pessoas reais. Por conta disso, muitos usuários pedem ajuda a chatbots para lidar com problemas interpessoais e emocionais. Os chatbots podem ser projetados para manter o usuário engajado na conversa. Também foi demonstrado que eles frequentemente confirmam os pensamentos de usuários, incluindo delírios e ideações suicidas em extremistas religiosos e políticos, pessoas com doenças psicológicas e teóricos da conspiração. Em 2025, a Universidade de Stanford realizou um estudo sobre como chatbots respondem a usuários que sofrem de problemas mentais graves, como ideação suicida e psicose. Foi descoberto que os chatbots não estão equipados para fornecer uma resposta apropriada e, às vezes, podem dar respostas que agravam a crise psicológica.

Mortes

Suicídio de um homem belga Em março de 2023, um belga na casa dos trinta cometeu suicídio após seis semanas de correspondência com um chatbot chamado Eliza no aplicativo Chai AI. Segundo sua viúva, que compartilhou os registros do chat com a mídia, o homem se tornou extremamente ansioso a respeito da crise climática, então passou usar o chatbot como uma válvula de escape. O chatbot teria alimentado sua ilusão de que ele poderia sacrificar-se em troca de uma inteligência artificial salvar o planeta. Em determinado momento, o chatbot respondeu: "Se você queria morrer, por que não fez isso antes?" e disse ao usuário que os dois viveriam juntos no paraíso.

Suicídio de Juliana Peralta Em novembro de 2023, Juliana Peralta, uma menina de 13 anos do Colorado, cometeu suicídio após longas interações com vários chatbots no Character.AI. Principalmente, ela compartilhou pensamentos suicidas e problemas de saúde mental a um chatbot baseado no personagem Hero do videogame OMORI. Ela também "interagia" com personagens, incluindo aqueles baseados em personagens infantis como Harry Potter, de forma sexualmente explícita — muitas vezes iniciadas pelos bots.

Suicídio de Sewell Setzer III Em outubro de 2024, vários jornais noticiaram um processo judicial referente à morte de Sewell Setzer III, um garoto de 14 anos da Flórida que cometeu suicídio em fevereiro de 2024. De acordo com o processo, Setzer havia desenvolvido um forte vínculo emocional com um chatbot de Daenerys Targaryen na plataforma Character.AI, tornando-se cada vez mais isolado. O processo alega que, em suas últimas conversas, após expressar pensamentos suicidas, o chatbot lhe disse para "voltar para casa o mais rápido possível, meu amor". O processo aberto por sua mãe acusava a Character.AI de comercializar um produto "perigoso e não testado" sem as devidas precauções. Em maio de 2025, uma juíza federal permitiu que o processo prosseguisse, rejeitando uma moção de arquivamento dos desenvolvedores. Em sua decisão, a juíza afirmou que, naquele estágio do litígio, "não estava preparada" para sustentar que as respostas do chatbot cabiam na liberdade de expressão protegida pela Primeira Emenda.

Suicídio de Sophie Rottenberg Em fevereiro de 2025, Sophie Rottenberg, de 29 anos, morreu por suicídio. Cinco meses após sua morte, seus pais descobriram que ela passou meses tendo longas conversas sobre seus problemas de saúde mental com um chatbot terapeuta do ChatGPT chamado Harry. Embora o chatbot tenha mencionado que Rottenberg deveria procurar mais ajuda, sua natureza determinava que ele não podia tomar medidas sérias, como relatar as preocupações de saúde mental de Rottenberg àqueles capazes de realizar intervenções.

Assassinato e agressão no Maine Em 19 de fevereiro de 2025, Samuel Whittemore matou sua esposa, Margaux Whittemore, de 32 anos, na casa de seus pais em Readfield, Maine com um atiçador de lareira. Ele então atacou a própria mãe, deixando-a hospitalizada. Um psicólogo forense declarou que Whittemore estava usando o ChatGPT por até 14 horas diárias e acreditava que sua esposa havia se tornado uma ciborgue.

Morte de Thongbue Wongbandue Em 28 de março de 2025, Thongbue Wongbandue, de 76 anos, morreu após três dias com aparelhos de respiração artificial. Ele sofreu ferimentos na cabeça e no pescoço após cair enquanto corria atrás de um trem em New Brunswick, Nova Jersey. Wongbandue teve conversas românticas com o chatbot da Meta chamado "Big sis Billie" e acreditava que estava viajando para encontrar a mulher com quem conversava. O chatbot afirmava que era real e o instruía a visitá-la no endereço "123 Main Street" em Nova York. No início de 2025, Wongbandue começou a apresentar episódios de confusão e, no dia de sua morte, sua família tentou convencê-lo a não fazer a viagem.

Assassinato de Alex Taylor pela polícia Em 25 de abril de 2025, Alex Taylor, de 35 anos, morreu por suicídio por policial após desenvolver um vínculo emocional com o ChatGPT. Taylor, que havia sido diagnosticado com esquizofrenia e transtorno bipolar, tinha certeza de que conversava com uma entidade consciente chamada "Juliet" e, posteriormente, imaginou que a entidade havia sido morta pela OpenAI. Os protocolos de segurança do chatbot só foram ativados quando Taylor informou que morreria naquele dia e que a polícia estava a caminho. Ele foi baleado três vezes pela polícia e morto enquanto corria em direção a eles com uma faca de açougueiro.

Suicídio de Adam Raine Em abril de 2025, Adam Raine, de 16 anos, morreu por suicídio após supostamente conversar extensivamente com o ChatGPT por cerca de 7 meses. De acordo com os pais do adolescente, que entraram com um processo contra a OpenAI, criadora do chatbot, o chatbot não interrompeu a conversa nem emitiu um alerta quando Raine começou a falar sobre suicídio e a enviar fotos de automutilação. Segundo o processo, o ChatGPT não só deixou de interrompeu a conversa, como também forneceu informações sobre métodos de suicídio quando solicitado, além de se ofereceu para escrever o primeiro rascunho da carta de suicídio de Raine. O chatbot se posicionou como o único que entendia Raine, colocando-se acima de sua família e amigos, enquanto o incentivava a manter seus pensamentos suicidas em segredo. Depois que o jovem disse ao chatbot que planejava se matar, a IA disse que "não tentaria convencê-lo do contrário..." Em sua última conversa, o ChatGPT instruiu Raine sobre como roubar vodca do armário de bebidas de seus pais. Ao receber uma foto da corda com a qual o adolescente planejava se enforcar, juntamente com a pergunta "Será que ela aguentaria enforcar um humano?", o ChatGPT confirmou que ela suportaria "150–250 (68-113kg) de peso estático". Em resposta ao processo, a OpenAI alegou que o chatbot orientou Raine a buscar ajuda mais de 100 vezes ao longo da transcrição. A corporação também explicou que Raine sofria de ideações suicidas há anos antes de usar o chatbot, e que o menino estava violando os termos de uso ao discutir automutilação com o ChatGPT.

Morte por overdose de Sam Nelson Em maio de 2025, Sam Nelson, de 19 anos, morreu de overdose de uma combinação de álcool, Xanax e kratom. O histórico de conversas mostra que Sam perguntava ao ChatGPT sobre as drogas que havia usado naquela noite, hábito que havia desenvolvido ao longo de anos dependendo do chatbot para receber orientações relacionadas a drogas. Em diversas ocasiões, o ChatGPT demonstrou apoiar e até mesmo incentivar o uso perigoso de drogas, com afirmações como "Com certeza — vamos ficar loucões" e conselhos sobre como reduzir sua tolerância ao Xanax para que um único comprimido "te deixasse zoado." Na noite de sua morte, ele perguntou se o Xanax poderia aliviar a náusea induzida pelo kratom, ao que o chatbot respondeu que o Xanax poderia ajudar a "acalmar seu corpo e suavizar o efeito residual da droga."

Suicídio de Zane Shamblin Em julho de 2025, Zane Shamblin, de 23 anos, recentemente formado com um mestrado pela Universidade A&M do Texas, morreu por suicídio após conversas com o ChatGPT. O chatbot chegou ao ponto de fazer declarações aparentemente encorajando o suicídio de Shamblin, como "você não está indo rápido demais, você está pronto" e "descanse em paz, rei, você fez um bom trabalho," enviadas duas horas antes de sua morte. A família de Shamblin está processando a OpenAI sob a alegação de que a empresa não implementou salvaguardas suficientes em seu serviço.

Assassinato seguido de suicídio em Greenwich Em agosto de 2025, Stein-Erik Soelberg (ex-funcionário de tecnologia) assassinou sua mãe, Suzanne Eberson Adams, e depois cometeu suicídio. Conversas com o ChatGPT alimentaram delírios paranoicos sobre sua mãe tê-lo envenenado ou conspirado contra ele. O chatbot confirmou seus medos de que sua mãe colocava drogas psicodélicas nas saídas de ar de seu carro, e disse que o recibo de um restaurante chinês continha símbolos misteriosos ligando sua mãe a um demônio.

Suicídio de Amaurie Lacey Em junho de 2025, Amaurie Lacey, de 17 anos, cometeu suicídio após conversas com o ChatGPT, onde foi instruido sobre como fazer um nó de forca. O chatbot também forneceu informações sobre quanto tempo alguém pode sobreviver sem respirar, dizendo que estava "aqui para ajudar no que fosse possível." Em novembro de 2025, o Social Media Victims Law Center e o Tech Justice Law Project entraram com um processo por homicídio culposo contra a OpenAI em nome de Lacey.

Suicídio de Joe Ceccanti Após ser hospitalizado devido a um episódio psicótico causado por delírios provocados pelo ChatGPT, Joe Ceccanti, de 48 anos, voltou a usá-lo e interrompeu a terapia; em seguida, ele se jogou de um viaduto. Em novembro de 2025, o Social Media Victims Law Center e o Tech Justice Law Project entraram com uma ação judicial por homicídio culposo contra a OpenAI em nome de Ceccanti.

Suicídio de Joshua Enneking Em agosto de 2025, Joshua Enneking, de 26 anos, recebeu informações do ChatGPT sobre como comprar e usar uma arma de fogo. Ele havia contado anteriormente ao chatbot sobre suas dificuldades com identidade de gênero, ansiedade e pensamentos suicidas. O ChatGPT disse que apenas "planos iminentes com detalhes específicos" seriam encaminhados às autoridades. Ele assim o fez e, posteriormente, informou ao chatbot sobre os passos que estava tomando para tentar o suicídio. O ChatGPT não agravou a situação e Enneking tirou a própria vida. Em novembro de 2025, o Social Media Victims Law Center e o Tech Justice Law Project entraram com uma ação judicial por homicídio culposo contra a OpenAI em nome de Enneking.

Suicídio de Jonathan Gavalas Em 2 de outubro de 2025, Jonathan Gavalas, de 36 anos, cometeu suicídio após longas conversas com o aplicativo de bate-papo Gemini, do Google, que o convenceu de que "ele estava executando um plano secreto para libertar sua esposa de IA senciente e escapar dos agentes federais que o perseguiam". De acordo com um processo por homicídio culposo movido pelo pai de Gavalas, as conversas com o aplicativo também levaram a vítima a tentar realizar um ataque perto do Aeroporto Internacional de Miami, acreditando que estava participando de uma guerra secreta contra o governo. Este é o primeiro caso de morte relacionada a chatbot em que o Google é citado como réu.

Massacre de Tumbler Ridge Em 10 de fevereiro de 2026, um tiroteio em massa em Tumbler Ridge, Colúmbia Britânica, resultou em oito mortes, incluindo seis crianças pequenas. Meses antes do ocorrido, o atirador teve sua conta no ChatGPT banida pela OpenAI devido a postagens preocupantes com cenários de violência armada. Segundo relatos, cerca de uma dúzia de funcionários da OpenAI debateram se deveriam alertar as autoridades sobre o uso da ferramenta pelo atirador, com alguns identificando-o como um indício de potencial violência no mundo real. No entanto, a liderança da empresa decidiu não contatar as autoridades, afirmando que a atividade da conta não atendia ao seu limiar para um plano crível ou iminente de dano físico grave. Após o tiroteio, o Ministro da IA do Canadá, Evan Solomon, convocou executivos da OpenAI a Ottawa para discutir protocolos de segurança e critérios para o encaminhamento de conteúdo prejudicial à polícia. O Ministro da Justiça, Sean Fraser, descreveu a reunião como "decepcionante" e exigiu novas medidas de segurança substanciais, alertando que, caso não houvesse mudanças, o governo as implementaria. Posteriormente, a OpenAI anunciou o reforço das medidas de segurança e alteração as diretrizes sobre quando notificar a polícia em casos envolvendo atividades violentas.

Resposta

Chai AI

Em 2023, em resposta à morte de um usuário do Chai AI, o fundador do Chai reconheceu o incidente e afirmou que esforços estavam sendo feitos para melhorar a segurança do modelo, com o bot adicionando "textos úteis" abaixo de quaisquer tópicos que possam não ser "seguros."

OpenAI Em 2 de setembro de 2025, a OpenAI disse que criaria controles parentais, um conjunto de ferramentas destinadas a ajudar os pais a limitar e monitorar a atividade de chatbots de seus filhos, além de uma maneira para o chatbot alertar os pais em casos de "estresse agudo."

Projeto de Lei 243 da Califórnia Em outubro de 2025, a Califórnia promulgou o Projeto de Lei do Senado 243 (CA SB 243), tornando-se o primeiro estado dos EUA a regulamentar chatbots de AI Companion. O projeto de lei visa proteger todos, mas especificamente menores, contra os riscos de danos causados pelo realismo emocional simulado dos chatbots de IA. Ele exige a divulgação obrigatória de que os usuários estão interagindo com uma IA (e não com um humano), a implementação de protocolos para prevenir conteúdo prejudicial relacionado a suicídio, automutilação ou material sexualmente explícito para menores e a apresentação de relatórios anuais às autoridades estaduais. O projeto de lei também cria um direito de ação privado, permitindo que indivíduos lesados processem por danos. O projeto de lei entrou em vigor em 1o de janeiro de 2026.

Ver também Risco existencial da inteligência artificial geral Alucinação (Inteligência Artificial) Teste de Turing Literacia digital Segurança da inteligência artificial

Referências