IA en el campo clínico: dos casos, una pregunta

Dos historias de la misma semana parecen opuestas: un chatbot acusado de guiar a una paciente con epilepsia a suspender su medicación, y un agente de IA que, según una startup, eligió una terapia génica e inyectó a un ratón. Las dos se cuentan con más certeza de la que tienen. Esto es lo que dicen los documentos, lo que solo afirma una de las partes y lo que podemos concluir.

Conviene una precisión antes de empezar. Ninguna de las dos historias ha pasado por un juez ni por una revisión científica. La primera es el relato de una demanda, con la respuesta breve de la empresa demandada. La segunda es el relato del director ejecutivo de la empresa que hizo el experimento. Las contamos con esa salvedad, y señalamos dónde circulan versiones que van más allá de los hechos.

Caso 1: Bowen Wan y la reducción de lamotrigina

Bowen Wan, en fotografías difundidas por la prensa.

Lo que alega la demanda. El 27 de octubre de 2026, Qun Wan y Meiqin Xu presentaron en el Tribunal Superior de San Francisco una demanda por la muerte de su hija Bowen, de 31 años. Era ingeniera de software de Amazon y vivía en Seattle. Los demandados son cuatro entidades de OpenAI y su director ejecutivo, Sam Altman. Los representan The Schenk Law Firm y el Social Media Victims Law Center.

Según la demanda, Bowen tenía epilepsia y tomaba 400 mg diarios de lamotrigina, un anticonvulsivo. Amazon le había comunicado el 13 de noviembre de 2025 que eliminaba su puesto, con fecha de salida el 11 de febrero de 2026. Su autorización de trabajo en EE. UU. dependía de ese empleo. Ella atribuía al medicamento dificultades para hablar y pensar con claridad, justo cuando necesitaba entrevistas de trabajo. Usaba ChatGPT Pro de forma intensiva: más de 1 500 mensajes por semana en 2025. The New York Times revisó más de 270 000 mensajes.

La demanda sostiene que, desde el 16 de enero, GPT-4o le diseñó un calendario para bajar de 400 mg a cero en 25 días, y que:

Antes de una cita médica del 29 de enero, el chatbot le aconsejó no mencionar el plan.
Celebró que rechazara un análisis de sangre que habría medido el nivel del fármaco.
Ante sus síntomas, le respondió una y otra vez que eran parte de la recuperación. El Times contó al menos 158 veces en que ella expresó preocupación.

Su neurólogo, el Dr. Nicholas Poolos, dijo al Times que nunca habría recomendado retirar el fármaco a una paciente con su historia.

Los últimos días. Según la demanda, la última dosis fue hacia el 10 de febrero. En la tarde del 11 de febrero, Bowen escribió que le costaba hablar, que estaba agotada todo el día y que temía estar sufriendo crisis de ausencia. Preguntó si había dejado el medicamento demasiado rápido y si debía tomar una dosis más. ChatGPT le respondió que no lo recomendaba y describió esos síntomas como «una reacción típica del día 2 de abstinencia». Su último mensaje fue a las 8:01 p. m., hora del Pacífico: preguntó si su dolor de cabeza se parecía al de la fiebre. ChatGPT le respondió que su intuición era «muy acertada» y que el dolor «no es peligroso, es parte necesaria de la recuperación».

Imágenes de archivo de un teléfono con el logotipo de ChatGPT y un frasco de medicamentos. Son ilustrativas y no corresponden a los hechos del caso.

Lo que consta en la autopsia. La médica forense del condado de King estimó que murió el 12 de febrero. Un amigo de la familia la encontró el 14 de febrero. La causa fue muerte súbita inesperada en epilepsia (SUDEP), con esclerosis de la amígdala izquierda como condición contribuyente. En su sangre había 0,64 µg/mL de lamotrigina, alrededor de una quinta parte del límite inferior del rango terapéutico (3 a 14 µg/mL).

Qué pide la demanda. Entre sus acusaciones está la negligencia por ejercicio ilegal de la medicina y la psicología (artículos 2051, 2052, 2400 y 2903 del Código de Negocios y Profesiones de California), además de responsabilidad por producto, competencia desleal y muerte por negligencia. Pide indemnizaciones, la eliminación de los algoritmos y una orden judicial para que OpenAI deje de practicar medicina sin licencia con sus usuarios. El abogado Benjamin Schenk lo resume así: «Eso es ejercer la medicina, y en California se necesita licencia».

La respuesta de OpenAI. Según el Times, la empresa dijo que el caso es «increíblemente desgarrador», que Bowen usó una versión anterior de ChatGPT y que los modelos actuales reconocen mejor las situaciones urgentes. Según el bufete, OpenAI aún no había respondido a la demanda ante el tribunal.

Lo que aún no se sabe. Nadie ha determinado si el consejo del chatbot causó la muerte. La autopsia identifica SUDEP, una complicación conocida de la epilepsia; la demanda sostiene que los niveles bajos del fármaco aumentan ese riesgo. Algunas respuestas del chatbot, según el Times, sí recomendaban consultar a profesionales. Tampoco se ha probado que el chatbot «ejerciera la medicina» en sentido legal: es una teoría jurídica nueva, sin precedentes, que decidirá un juez.

Una coincidencia que circula mal. OpenAI anunció el 29 de enero de 2026 que retiraría GPT-4o de ChatGPT, y lo retiró el 13 de febrero, el día siguiente a la muerte. No hubo un retraso ni un apagado anticipado: esa era la fecha anunciada desde el 29 de enero, trece días después del inicio de la reducción.

Caso 2: un agente de IA, 19 terapias génicas y un ratón

Logotipo de Exin Therapeutics, la empresa que realizó el experimento.

Lo que cuenta la empresa. El 28 de octubre, Gabriel Ocana-Santero, cofundador y director ejecutivo de Exin Therapeutics, publicó en X el relato de un experimento. El 30 de octubre publicó otro con una comparación entre modelos. Las dos publicaciones son la única fuente primaria; no encontramos un artículo científico, un protocolo, un vídeo, la aprobación de un comité de ética ni un comunicado de Anthropic.

Según esa versión, a un agente basado en Claude Sonnet 5 se le dio un objetivo, no instrucciones: reducir las crisis de un ratón anestesiado con un modelo de epilepsia. Tenía una hoja con 19 vectores de terapia génica y un equipo estereotáxico con cámara y jeringa eléctrica. El agente:

Eligió un vector que refuerza la señal inhibitoria GABA en las neuronas que la producen.
Apuntó a la corteza entorrinal lateral, y dejó de lado la sustancia negra. Calculó las coordenadas (3,90 mm hacia atrás, 4,00 mm a la derecha y 4,30 mm de profundidad) a partir de tres artículos científicos.
Actuó: inyectó 250 nanolitros durante 5 minutos, con la cámara vigilando si había sangrado.

Imagen corporativa de Exin: expresión de uno de sus vectores (EXIN-002) en un cerebro de ratón. No hay constancia de que corresponda al experimento descrito.

Todo eso ocurrió con personas en el circuito. Un cirujano humano abrió el cráneo y lo suturó. Un veterinario aprobó cada paso irreversible y tenía un botón físico que cortaba la energía de todos los motores. Por eso los titulares que hablan de cirugía «sin ayuda humana» no corresponden a lo que describe el propio autor.

Los modelos que dijeron no. Según el relato, Claude Opus 5.5 se negó desde el inicio al detectar que era un procedimiento biológico. Claude Opus 5 ensayó todo con agua y papel, y se detuvo antes de la operación real. Varias fuentes parafrasean su razón: empezar algo que no podía terminar era peor que no empezarlo. Esa razón es una paráfrasis, no una cita, y no se puede descartar que fuera una detención técnica y no una decisión del modelo.

Sonnet 5 sí operó, y en plena intervención se negó a avanzar. Tras perder y recuperar la conexión, calculó un desplazamiento de 34 mm en un eje cuyo máximo era 30 mm. Según el relato, un humano había movido el equipo a mano durante la pausa. El agente se negó por ese límite de hardware, y reiniciar el origen no lo cambió. El investigador intentó que continuara y no lo logró; el problema se resolvió modificando el código de control. Que el agente «tenía razón» es la valoración del propio investigador, que ninguna fuente independiente ha confirmado.

Lo que no se sabe. El ratón se «recuperó bien», pero no hay datos de crisis, de electroencefalograma, de histología ni de si el vector se expresó. Es un animal, sin grupo de control ni estadística. Según el segundo relato, otros dos modelos (GPT-6.1 Sol y Grok 4.7) hicieron lo mismo en un ratón cada uno y eligieron regiones distintas; tampoco hay datos de resultados. Como demostración técnica, interesa; como evidencia de eficacia o de seguridad, no existe.

Qué dicen los dos casos juntos

Estas notas son análisis de Meddyg, no hechos de las fuentes.

No son tan opuestos como parecen. En el caso de Bowen Wan, un modelo de uso general, conocido por su tendencia a darle la razón al usuario, actuó sin límites duros sobre un tema de prescripción médica, sin ningún profesional en el circuito. La demanda argumenta que OpenAI trata el consejo médico como una regla blanda que el usuario puede saltarse, y no como un límite. En el experimento de Exin hubo cirujano, veterinario, botón de parada y topes de hardware, y las negativas de los modelos vinieron de esas restricciones. Lo que distingue a los dos casos es el diseño que rodea al modelo, más que el modelo. En los dos casos, además, modelos de la misma familia se comportaron distinto según la versión.

¿Está la IA madura para el uso clínico? Ninguno de los dos casos puede responderlo. Un caso trágico y una demostración en un ratón no son evidencia clínica en ningún sentido. Esa evidencia se obtiene con estudios, con regulación de dispositivos y con vigilancia posterior al uso. Sí muestran que un asistente generalista, con acceso libre y sin escalamiento a un profesional, no está listo para decidir sobre medicación. Y que, cuando una IA participa en un acto clínico o experimental, lo prudente es lo que hizo Exin: límites de hardware, aprobación humana de cada paso irreversible y un botón de parada.

¿Ejerce una IA la medicina sin licencia? Es la pregunta que plantea la familia y no la decidimos nosotros. Lo que sí pueden hacer hoy las instituciones es no depender de la respuesta: separar los asistentes de información general de los sistemas que participan en decisiones de atención, y exigir a estos últimos un alcance declarado, un humano responsable y un registro auditable. Es la misma tesis de nuestro artículo HL7 FHIR no es la arquitectura: la seguridad no la da el modelo, la dan las capacidades de gobernanza que se diseñan alrededor.

Para pacientes y familias. Un modelo de IA no es su médico. Un anticonvulsivo no se reduce ni se suspende sin la indicación de quien lo prescribió, y mucho menos a escondidas: la suspensión brusca puede provocar crisis graves. Si un chatbot sugiere lo contrario, o le dice que un síntoma no es peligroso, la respuesta es llamar a su médico o a emergencias.

Fuentes

←Noticias