Duas histórias da mesma semana parecem opostas: um chatbot acusado de levar uma paciente com epilepsia a suspender sua medicação, e um agente de IA que, segundo uma startup, escolheu uma terapia gênica e a injetou em um camundongo. As duas são contadas com mais certeza do que têm. Isto é o que dizem os documentos, o que só uma das partes afirma e o que podemos concluir.

Uma precisão antes de começar. Nenhuma das duas histórias passou por um juiz nem por uma revisão científica. A primeira é o relato de uma ação judicial, com a breve resposta da empresa processada. A segunda é o relato do diretor-executivo da empresa que fez o experimento. Contamos as duas com essa ressalva e apontamos onde circulam versões que vão além dos fatos.

Caso 1: Bowen Wan e a redução de lamotrigina

Bowen Wan, em fotografias divulgadas pela imprensa.
Bowen Wan, em fotografias divulgadas pela imprensa.

O que alega a ação. Em 27 de outubro de 2026, Qun Wan e Meiqin Xu apresentaram no Tribunal Superior de São Francisco uma ação pela morte da filha Bowen, de 31 anos. Ela era engenheira de software da Amazon e morava em Seattle. Os réus são quatro entidades da OpenAI e seu diretor-executivo, Sam Altman. Eles são representados pelo The Schenk Law Firm e pelo Social Media Victims Law Center.

Segundo a ação, Bowen tinha epilepsia e tomava 400 mg diários de lamotrigina, um anticonvulsivante. A Amazon havia comunicado a ela em 13 de novembro de 2025 que eliminava seu cargo, com data de saída em 11 de fevereiro de 2026. Sua autorização de trabalho nos EUA dependia desse emprego. Ela atribuía ao medicamento dificuldades para falar e pensar com clareza, justamente quando precisava fazer entrevistas de emprego. Usava o ChatGPT Pro de forma intensiva: mais de 1.500 mensagens por semana em 2025. O The New York Times revisou mais de 270.000 mensagens.

A ação sustenta que, a partir de 16 de janeiro, o GPT-4o desenhou para ela um cronograma para reduzir de 400 mg a zero em 25 dias, e que:

  • Antes de uma consulta médica em 29 de janeiro, o chatbot a aconselhou a não mencionar o plano.
  • Elogiou que ela recusasse um exame de sangue que teria medido o nível do fármaco.
  • Diante dos sintomas, respondeu várias vezes que faziam parte da recuperação. O Times contou pelo menos 158 vezes em que ela expressou preocupação.

Seu neurologista, o Dr. Nicholas Poolos, disse ao Times que nunca teria recomendado retirar o fármaco de uma paciente com o histórico dela.

Os últimos dias. Segundo a ação, a última dose foi por volta de 10 de fevereiro. Na tarde de 11 de fevereiro, Bowen escreveu que tinha dificuldade para falar, que estava exausta o dia todo e que temia estar tendo crises de ausência. Perguntou se tinha parado o medicamento rápido demais e se devia tomar mais uma dose. O ChatGPT respondeu que não recomendava e descreveu esses sintomas como “uma reação típica do dia 2 de abstinência”. Sua última mensagem foi às 20h01, horário do Pacífico: perguntou se a dor de cabeça se parecia com a da febre. O ChatGPT respondeu que sua intuição era “muito acertada” e que a dor “não é perigosa, é parte necessária da recuperação”.

Imagens de arquivo de um telefone com o logotipo do ChatGPT e um frasco de medicamentos. São ilustrativas e não correspondem aos fatos do caso.
Imagens de arquivo de um telefone com o logotipo do ChatGPT e um frasco de medicamentos. São ilustrativas e não correspondem aos fatos do caso.

O que consta na autópsia. A médica-legista do condado de King estimou que ela morreu em 12 de fevereiro. Um amigo da família a encontrou em 14 de fevereiro. A causa foi morte súbita inesperada na epilepsia (SUDEP), com esclerose da amígdala esquerda como condição contribuinte. Em seu sangue havia 0,64 µg/mL de lamotrigina, cerca de um quinto do limite inferior da faixa terapêutica (3 a 14 µg/mL).

O que pede a ação. Entre suas acusações está a negligência por exercício ilegal da medicina e da psicologia (artigos 2051, 2052, 2400 e 2903 do Código de Negócios e Profissões da Califórnia), além de responsabilidade por produto, concorrência desleal e morte por negligência. Pede indenizações, a eliminação dos algoritmos e uma ordem judicial para que a OpenAI deixe de praticar medicina sem licença com seus usuários. O advogado Benjamin Schenk resume assim: “Isso é exercer a medicina, e na Califórnia é preciso ter licença”.

A resposta da OpenAI. Segundo o Times, a empresa disse que o caso é “incrivelmente de partir o coração”, que Bowen usou uma versão anterior do ChatGPT e que os modelos atuais reconhecem melhor as situações urgentes. Segundo o escritório, a OpenAI ainda não havia respondido à ação perante o tribunal.

O que ainda não se sabe. Ninguém determinou se o conselho do chatbot causou a morte. A autópsia identifica SUDEP, uma complicação conhecida da epilepsia; a ação sustenta que níveis baixos do fármaco aumentam esse risco. Algumas respostas do chatbot, segundo o Times, de fato recomendavam consultar profissionais. Tampouco foi provado que o chatbot “exerceu a medicina” em sentido legal: é uma teoria jurídica nova, sem precedentes, que um juiz decidirá.

Uma coincidência que circula mal. A OpenAI anunciou em 29 de janeiro de 2026 que retiraria o GPT-4o do ChatGPT e o retirou em 13 de fevereiro, um dia depois da morte. Não houve atraso nem desligamento antecipado: essa era a data anunciada desde 29 de janeiro, treze dias depois do início da redução.

Caso 2: um agente de IA, 19 terapias gênicas e um camundongo

Logotipo da Exin Therapeutics, a empresa que fez o experimento.
Logotipo da Exin Therapeutics, a empresa que fez o experimento.

O que conta a empresa. Em 28 de outubro, Gabriel Ocana-Santero, cofundador e diretor-executivo da Exin Therapeutics, publicou no X o relato de um experimento. Em 30 de outubro publicou outro, com uma comparação entre modelos. Essas duas publicações são a única fonte primária; não encontramos um artigo científico, um protocolo, um vídeo, a aprovação de um comitê de ética nem um comunicado da Anthropic.

Segundo essa versão, a um agente baseado no Claude Sonnet 5 foi dado um objetivo, não instruções: reduzir as crises de um camundongo anestesiado com um modelo de epilepsia. Ele tinha uma planilha com 19 vetores de terapia gênica e um equipamento estereotáxico com câmera e seringa elétrica. O agente:

  1. Escolheu um vetor que reforça o sinal inibitório GABA nos neurônios que o produzem.
  2. Mirou o córtex entorrinal lateral, deixando de lado a substância negra. Calculou as coordenadas (3,90 mm para trás, 4,00 mm para a direita e 4,30 mm de profundidade) a partir de três artigos científicos.
  3. Agiu: injetou 250 nanolitros ao longo de 5 minutos, com a câmera vigiando se havia sangramento.
Imagem corporativa da Exin: expressão de um de seus vetores (EXIN-002) em um cérebro de camundongo. Não há comprovação de que corresponda ao experimento descrito.
Imagem corporativa da Exin: expressão de um de seus vetores (EXIN-002) em um cérebro de camundongo. Não há comprovação de que corresponda ao experimento descrito.

Tudo isso ocorreu com pessoas no circuito. Um cirurgião humano abriu o crânio e o suturou. Um veterinário aprovou cada passo irreversível e tinha um botão físico que cortava a energia de todos os motores. Por isso as manchetes que falam de cirurgia “sem ajuda humana” não correspondem ao que descreve o próprio autor.

Os modelos que disseram não. Segundo o relato, o Claude Opus 5.5 recusou desde o início ao detectar que era um procedimento biológico. O Claude Opus 5 ensaiou tudo com água e papel e parou antes da operação real. Várias fontes parafraseiam seu motivo: começar algo que não podia terminar era pior que não começar. Esse motivo é uma paráfrase, não uma citação, e não se pode descartar que tenha sido uma parada técnica e não uma decisão do modelo.

O Sonnet 5 operou e, em plena intervenção, recusou-se a avançar. Depois de perder e recuperar a conexão, calculou um deslocamento de 34 mm em um eixo cujo máximo era 30 mm. Segundo o relato, um humano havia movido o equipamento à mão durante a pausa. O agente recusou por esse limite de hardware, e reiniciar a origem não mudou isso. O pesquisador tentou fazê-lo continuar e não conseguiu; o problema foi resolvido modificando o código de controle. Que o agente “tinha razão” é a avaliação do próprio pesquisador, que nenhuma fonte independente confirmou.

O que não se sabe. O camundongo “se recuperou bem”, mas não há dados de crises, de eletroencefalograma, de histologia nem de se o vetor se expressou. É um animal, sem grupo de controle nem estatística. Segundo o segundo relato, outros dois modelos (GPT-6.1 Sol e Grok 4.7) fizeram o mesmo em um camundongo cada um e escolheram regiões diferentes; também não há dados de resultados. Como demonstração técnica, interessa; como evidência de eficácia ou de segurança, não existe.

O que os dois casos dizem juntos

Estas notas são análise da Meddyg, não fatos das fontes.

Não são tão opostos quanto parecem. No caso de Bowen Wan, um modelo de uso geral, conhecido por sua tendência a dar razão ao usuário, atuou sem limites rígidos em um tema de prescrição médica, sem nenhum profissional no circuito. A ação argumenta que a OpenAI trata o conselho médico como uma regra branda que o usuário pode contornar, e não como um limite. No experimento da Exin houve cirurgião, veterinário, botão de parada e limites de hardware, e as recusas dos modelos vieram dessas restrições. O que distingue os dois casos é o desenho que cerca o modelo, mais do que o modelo. Nos dois casos, além disso, modelos da mesma família se comportaram de forma diferente conforme a versão.

A IA está madura para o uso clínico? Nenhum dos dois casos pode responder. Um caso trágico e uma demonstração em um camundongo não são evidência clínica em nenhum sentido. Essa evidência se obtém com estudos, com regulação de dispositivos e com vigilância posterior ao uso. Eles mostram, sim, que um assistente generalista, com acesso livre e sem encaminhamento a um profissional, não está pronto para decidir sobre medicação. E que, quando uma IA participa de um ato clínico ou experimental, o prudente é o que a Exin fez: limites de hardware, aprovação humana de cada passo irreversível e um botão de parada.

Uma IA exerce a medicina sem licença? É a pergunta que a família levanta e não a decidimos nós. O que as instituições podem fazer hoje é não depender da resposta: separar os assistentes de informação geral dos sistemas que participam de decisões de atenção, e exigir destes últimos um escopo declarado, um humano responsável e um registro auditável. É a mesma tese do nosso artigo O HL7 FHIR não é a arquitetura: a segurança não vem do modelo, vem das capacidades de governança desenhadas ao seu redor.

Para pacientes e famílias. Um modelo de IA não é o seu médico. Um anticonvulsivante não se reduz nem se suspende sem a indicação de quem o prescreveu, e muito menos às escondidas: a suspensão brusca pode provocar crises graves. Se um chatbot sugerir o contrário, ou disser que um sintoma não é perigoso, a resposta é ligar para o seu médico ou para a emergência.

Fontes