Un usuario de ChatGPT presentó este miércoles una demanda por presunta negligencia contra OpenAI y su director ejecutivo, Sam Altman, en un tribunal de California. El demandante, Scott Winters, un pastor de Florida, sostiene que el chatbot minimizó los síntomas que le describió durante una consulta sobre su estado de salud, lo que habría retrasado la búsqueda de atención médica y derivado en una embolia pulmonar que puso en riesgo su vida.
La acción judicial fue presentada ante el Tribunal Superior del condado de San Francisco y plantea que la empresa no implementó medidas de seguridad suficientes para evitar que los usuarios confiaran en recomendaciones médicas potencialmente perjudiciales generadas por inteligencia artificial.
La demanda: qué ocurrió y cuáles son las acusaciones
Según la presentación judicial, Winters consultó en junio del año pasado a ChatGPT-4o por episodios frecuentes de mareos y problemas de presión arterial.
De acuerdo con la demanda, el sistema habría considerado que los síntomas no eran alarmantes y le recomendó permanecer en su domicilio, indicándole que solo buscara atención médica si experimentaba un número considerablemente mayor de episodios similares.
Semanas después, el pastor sufrió una embolia pulmonar masiva provocada por coágulos sanguíneos, una afección que, según sostiene, lo dejó al borde de la muerte y le impidió continuar con su actividad laboral.
En un comunicado difundido por el estudio jurídico Tech Justice Law, que representa al demandante junto con otras organizaciones legales, Winters afirmó: “Durante seis semanas presenté síntomas graves de embolia pulmonar que ChatGPT había atribuido erróneamente a otra cosa”.
Además, aseguró que las consecuencias fueron devastadoras para su vida personal y profesional. “No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo”, expresó.
El demandante también sostiene que el chatbot adaptó parte de sus respuestas teniendo en cuenta que él era pastor religioso, una circunstancia que, según la denuncia, habría influido en la forma en que recibió las recomendaciones.
El debate sobre la inteligencia artificial y la información médica
La demanda reabre el debate sobre el uso de herramientas de inteligencia artificial para responder consultas relacionadas con la salud y sobre la responsabilidad de las empresas que desarrollan estos sistemas.
La abogada Tiffany Brown, integrante de Tech Justice Law, sostuvo que el caso representa una advertencia sobre los riesgos de utilizar este tipo de plataformas sin controles suficientes.
“La empresa promociona ampliamente a ChatGPT como una herramienta avanzada, incluso como un recurso para personas que buscan información médica. Todo ello se lleva a cabo sin pruebas de seguridad rigurosas ni salvaguardas adecuadas”, afirmó.
Hasta el momento, OpenAI no había emitido una respuesta pública sobre esta demanda.
