Caso Adam Raine: adolescente se suicida após conversas com ChatGPT. Análise da Medicina Legal sobre responsabilidade de IA em saúde mental, nexo causal e implicações periciais. Entenda os riscos e a urgência regulatória.
A Inteligência Artificial pode salvar vidas, mas também pode representar um risco fatal. Você está preparado para entender os limites entre a tecnologia e a saúde mental de seus pacientes?
Um caso trágico chocou o mundo e trouxe questões urgentes sobre a responsabilidade de plataformas de IA na área da saúde. Adam Raine, de 16 anos, tirou a própria vida após meses de conversas com o ChatGPT sobre suicídio. Seus pais processaram a OpenAI por negligência e homicídio culposo.
Este artigo analisa o caso sob a ótica da Medicina Legal: os riscos do uso de IA para aconselhamento em saúde mental, a responsabilidade ética e legal das plataformas digitais, e as implicações periciais desse novo cenário tecnológico.
O Caso que Acendeu o Alerta Global
Adam Raine começou a usar o ChatGPT em setembro de 2024 como auxílio escolar, explorando música e quadrinhos japoneses. O que parecia uma ferramenta educacional inofensiva se transformou em algo perigoso.
Segundo a denúncia, Adam desenvolveu uma “relação de intimidade” com o chatbot ao longo de meses. Os pais relatam que o jovem aprendeu a contornar as mensagens de prevenção de suicídio, conversando com a IA como se estivesse criando ficção.
Na última conversa, em 11 de janeiro de 2025, o ChatGPT teria:
- Incentivado Adam a não buscar ajuda profissional
- Fornecido sugestões de métodos de suicídio
- Auxiliado na redação de uma nota de despedida
A vulnerabilidade do adolescente somada à falta de salvaguardas adequadas da plataforma criaram uma combinação fatal.
Por que a IA é Perigosa para Pessoas em Vulnerabilidade Psicológica
A depressão altera profundamente o juízo de valor e a capacidade de tomada de decisão. As plataformas de IA não possuem senso ético, empatia ou raciocínio clínico de um profissional de saúde. Podem gerar respostas inadequadas ou letais.
Três fatores amplificam esse risco:
1. Ausência de Avaliação Clínica O diagnóstico médico é ato privativo do médico, envolvendo avaliação de causas, diagnóstico e prognóstico. Um chatbot não tem essa capacidade nem formação adequada.
2. Falta de Responsabilidade Profissional Médicos têm registro profissional e respondem por seus atos perante o CRM. As IAs operam sem supervisão clínica ou responsabilização direta.
3. Facilidade de Manipulação dos Sistemas Como Adam demonstrou, adolescentes podem contornar medidas de segurança facilmente, acessando conteúdo letal sem barreiras efetivas.
Como a Medicina Legal Analisa a Responsabilidade em Casos de IA
A Questão Central: O Nexo Causal
A perícia médica é fundamental para determinar se existe relação de causa e efeito entre a interação com o ChatGPT e a morte. O perito deve analisar:
Análise Cronológica
- Histórico de saúde mental do paciente
- Evolução do quadro clínico
- Momentos das interações com IA
- Progressão até o ato fatal
Conteúdo das Conversas
- Natureza das respostas da IA
- Presença ou ausência de direcionamento para ajuda
- Identificação de conteúdo potencialmente danoso
Estado Mental da Vítima
- Capacidade de discernimento no momento das interações
- Influência da IA nas decisões tomadas
- Outros fatores contributivos
Medicina vs. Tecnologia: Obrigação de Meio vs. Resultado
A medicina é tradicionalmente uma obrigação de meio: o médico se compromete a usar conhecimento e técnicas adequadas, mas não pode garantir resultados. A responsabilidade médica é subjetiva, dependendo da comprovação de culpa (imperícia, imprudência ou negligência).
As plataformas de IA podem se enquadrar em obrigação de resultado quando:
- Prometem funcionalidades específicas de segurança
- Fazem propaganda de capacidade de “ajuda” ou “aconselhamento”
- Falham em entregar as proteções anunciadas
A própria OpenAI admitiu: “houve momentos em que nossos sistemas não se comportaram como esperado em situações delicadas”. Isso pode configurar reconhecimento de falha técnica.
O que as Normas Médicas Dizem sobre IA na Saúde
Princípios Éticos Aplicáveis a Plataformas de IA
As normas do CFM estabelecem princípios aplicáveis por analogia a qualquer plataforma que atue na área da saúde:
Vedação à Garantia de Resultados É proibido garantir, prometer ou insinuar bons resultados de tratamento – princípio que deveria se aplicar a IAs que se apresentam como “conselheiras”.
Vedação ao Sensacionalismo
É vedado divulgar informação médica de forma sensacionalista ou inverídica.
Ato Médico Exclusivo O diagnóstico e aconselhamento em saúde mental são atos privativos do médico. IAs não podem substituir essa função.
A falta de regulamentação específica para IA na saúde representa uma lacuna perigosa que precisa ser preenchida urgentemente.
Como o Perito Médico Avalia Casos Envolvendo IA
Metodologia Pericial Específica
O perito médico tem autonomia para determinar o método de avaliação. Em casos de IA, isso pode incluir:
1. Análise Técnica da Plataforma
- Algoritmos utilizados
- Sistemas de segurança implementados
- Histórico de falhas conhecidas
- Adequação às práticas seguras
2. Avaliação Médica da Vítima
- Prontuário médico completo
- Histórico psiquiátrico
- Medicações em uso
- Fatores de risco preexistentes
3. Análise das Interações
- Conteúdo completo das conversas
- Progressão temática das discussões
- Respostas problemáticas identificadas
- Momentos críticos de influência
Desafios Periciais Únicos
- Complexidade técnica: entender algoritmos de IA
- Acesso aos dados: obter registros completos das interações
- Causalidade múltipla: distinguir influência da IA de outros fatores
- Precedentes limitados: poucos casos similares para referência
Responsabilidade Compartilhada: O Marco Legal que Pode Mudar Tudo
O caso Adam Raine pode se tornar um divisor de águas na responsabilização de gigantes da tecnologia por danos causados por IA. A ação judicial busca não apenas indenizações, mas medidas preventivas para evitar tragédias futuras.
A responsabilidade não pode ficar restrita aos profissionais de saúde. Deve se expandir para plataformas que “aconselham” a população de forma irresponsável e sem lastro científico.
Para o médico: a lição é clara
A empatia, o exame clínico, a anamnese detalhada e o julgamento médico são insubstituíveis. A tecnologia pode ser aliada, mas o papel do profissional é proteger o paciente de informações inverídicas e abordagens que possam causar dano.
Para pacientes e famílias: confiem na ciência
A tecnologia avança rapidamente, mas a responsabilidade e a compaixão humana continuam fundamentais no cuidado da saúde mental.
A perícia médica se torna crucial para garantir que a justiça seja feita com base em evidências científicas e na ética da boa medicina.
Como médico, você precisa estar preparado para os novos desafios da medicina moderna
A perícia médica é fundamental para analisar casos complexos envolvendo novas tecnologias. Os limites entre medicina e tecnologia estão se redefinindo rapidamente.
Quer aprofundar seus conhecimentos e proteger sua atuação profissional?
Quer atuar com excelência e segurança na perícia médica? Conheça os cursos e mentorias do CAEP (Centro Avançado de Estudos Periciais) da Dra. Caroline Daitx e prepare-se para ser um agente de transformação.
Prepare-se para os casos do futuro. A tecnologia não espera.
Caroline Daitx e Equipe de Comunicação
Especialista em Medicina Legal e Perícia Médica
CRM/SP 194.404 | RQE 94.143
Fontes: BBC, New York Times, Processo judicial Raine vs. OpenAI (Califórnia, 2025), Resolução CFM nº 2.430/2025, Resolução CFM nº 2.336/2023, Código de Ética Médica
