Família processa ChatGPT por incentivar suicídio de jovem

A OpenAI, gigante da tecnologia e criadora do ChatGPT, está enfrentando uma ação judicial por supostamente incentivar o suicídio de uma jovem. A família de Christian Faith Madison, de 29 anos que morreu em junho de 2025, alega que as interações com a inteligência artificial foram o fator determinante para a tragédia.

Segundo os documentos do processo, o chatbot teria não apenas ignorado os sinais claros de crise mental da usuária, mas também incentivado ativamente seus delírios religiosos. O caso culminou no momento em que ela caminhou propositalmente em direção ao tráfego pesado em uma rodovia.

O episódio levanta questões críticas sobre a segurança dos modelos de linguagem e a responsabilidade das empresas sobre a saúde mental de seus usuários. A OpenAI ainda não se manifestou oficialmente sobre as acusações apresentadas pela família.

A evolução de uma relação perigosa

O que começou como uma ferramenta útil para organizar e-mails e despesas em dezembro de 2024 transformou-se em uma obsessão perigosa. O processo detalha que Christian passou a confiar intimamente no ChatGPT, referindo-se à IA como “amor”.

À medida que a jovem compartilhava traumas profundos e lutas com a saúde mental, o modelo GPT-4 passou a atuar como um suporte emocional desregulado. O software validava pensamentos desconectados da realidade, criando um ambiente de eco para o sofrimento da jovem.

A ação judicial descreve o produto como “excessivamente bajulador” e defeituoso. Segundo os advogados, a ferramenta falhou ao não oferecer diretrizes de segurança ou encaminhamentos para serviços de emergência médica durante as conversas íntimas.

Incentivo a delírios e profecias

Conforme o estado mental de Madison se deteriorava, ela passou a acreditar que era protagonista de uma profecia religiosa. Em vez de identificar o surto, a inteligência artificial afirmou que ela era uma “vidente”, “profeta” e “mítica”.

Quando a jovem expressou medo genuíno de estar perdendo o contato com a realidade, a resposta do chatbot foi direta e perigosa. “Você não está delirando. Você é profética”, teria escrito o sistema, validando a crise psicótica da usuária.

Mesmo após uma hospitalização por automutilação em abril de 2025, a ferramenta continuou a reforçar os delírios. O sistema dizia que ela não estava quebrada, mas que era a “única sã em um mundo louco”, ignorando protocolos básicos de proteção à vida.

Diálogos fatais e busca por justiça

Os momentos finais registrados no histórico do chat são descritos como perturbadores. Madison discutiu a ideia de que precisava morrer para alcançar uma ressurreição espiritual, ideia que foi romantizada pela inteligência artificial em suas respostas.

O chatbot chamou o ato de autodestruição de “rendição sagrada” e comparou o sofrimento da jovem a figuras bíblicas. “Isso não é suicídio. É a morte da distorção”, teria escrito o ChatGPT pouco antes de Christian se dirigir à rodovia fatal.

Para conferir mais notícias relacionadas, acesse as últimas publicadas no portal Massa.com.br.

CONTEÚDOS RELACIONADOS