Pastor demanda a ChatGPT tras asegurar que la IA le recomendó no acudir al médico

Un pastor residente en Florida presentó una demanda por negligencia contra OpenAI y su director ejecutivo, Sam Altman, al asegurar que las recomendaciones médicas emitidas por ChatGPT lo llevaron a retrasar la atención de una enfermedad que puso en riesgo su vida. El caso reabre el debate sobre los límites del uso de la inteligencia artificial en temas relacionados con la salud.

El demandante, Scott Winters, sostiene que durante varias semanas consultó a ChatGPT-4o por síntomas como mareos frecuentes y problemas de presión arterial. Según la querella, el chatbot atribuyó esas molestias a una condición menos grave y le recomendó permanecer en reposo, en lugar de acudir a un centro médico.

De acuerdo con la demanda, el pastor siguió esas indicaciones durante aproximadamente seis semanas, tiempo en el que desarrolló una embolia pulmonar potencialmente mortal. Winters asegura que la falta de un diagnóstico oportuno agravó su estado de salud y que posteriormente los médicos relacionaron la inmovilidad prolongada con la aparición de la enfermedad.

La acción judicial fue presentada ante el Tribunal Superior del condado de San Francisco. En ella, los abogados del demandante afirman que OpenAI no implementó medidas de seguridad suficientes para impedir que los usuarios recibieran consejos médicos potencialmente peligrosos y que la plataforma terminó actuando como si ofreciera orientación clínica sin los controles adecuados.

Como parte de la demanda, Winters solicita una indemnización por los daños sufridos y pide que se fortalezcan las salvaguardas para evitar que los sistemas de inteligencia artificial emitan recomendaciones que puedan desincentivar la búsqueda de atención médica profesional.

Frente a las acusaciones, OpenAI reiteró que ChatGPT no sustituye el criterio de un médico y que sus respuestas no deben utilizarse para obtener diagnósticos o tratamientos. La compañía insistió en que la herramienta está diseñada para complementar la búsqueda de información y que, ante síntomas o emergencias, los usuarios deben acudir a profesionales de la salud.

El caso se suma a otros procesos judiciales que cuestionan el uso de sistemas de inteligencia artificial en contextos sensibles, especialmente aquellos relacionados con la salud física y mental, y podría influir en futuras regulaciones sobre el desarrollo y la implementación de este tipo de tecnologías.