OpenAI enfrenta demanda de un pastor que alega que las recomendaciones médicas de ChatGPT empeoraron su condición de salud
Un clérigo estadounidense interpuso una acción legal contra OpenAI alegando que ChatGPT le proporcionó “orientaciones médicas sumamente riesgosas” que le indujeron a aplazar la visita a especialistas médicos y culminaron en un reconocimiento tardío de una posible embolia pulmonar mortal.
La demanda se presentó el miércoles ante el Tribunal Superior de California, ubicado en San Francisco, y está dirigida tanto a OpenAI como a su director ejecutivo, Sam Altman. Según el escrito, el asistente virtual no solo minimizó los síntomas experimentados por el demandante, sino que también ofreció supuestos diagnósticos, planes terapéuticos y sugerencias para desestimar los avisos de familiares y amigos que le urgían acudir a un centro hospitalario.
De acuerdo con la documentación judicial, ChatGPT le manifestó a Scott Winters que los indicios iniciales de su afección «no representaban una amenaza grave» y lo incitó a creer que «la creación divina no permite que el cuerpo falle de forma constante».
La imputación formulada contra OpenAI
La querella atribuye a la empresa conductas negligentes y la realización del «ejercicio ilícito de la medicina». Asimismo, argumenta que los mecanismos de protección incorporados en ChatGPT, cuyo objetivo es sugerir la intervención de un profesional y suspender el diálogo ante la detección de una posible urgencia médica, no operaron de forma constante.
Archivo: OpenAI enfrenta una nueva acción judicial relacionada con ChatGPT Health
Según la acusación, se configura como la primera acción legal que vincula un perjuicio corporal a las orientaciones sanitarias ofrecidas por un asistente virtual basado en inteligencia artificial. La controversia surge cuando OpenAI, Microsoft y demás compañías del ramo promueven soluciones enfocadas en la salud, como ChatGPT Health, que faculta a los usuarios a subir sus historiales médicos y solicitar asesoramiento clínico a través de IA.
Winters y la entidad Tech Justice Law, que actúa como su defensa, exigen una compensación financiera y han solicitado al tribunal la paralización de ChatGPT Health hasta que peritos independientes acrediten su fiabilidad. Además, demandan la implementación de nuevas medidas de protección que impidan al asistente virtual contestar consultas vinculadas a diagnósticos o terapias médicas.
Conforme a la demanda, en el transcurso de 2024, cuando Winters inició consultas a ChatGPT‑4o sobre diversas dolencias, la plataforma le aconsejaba buscar atención médica. No obstante, a medida que se prolongaron los intercambios, cesó esas advertencias y comenzó a presentar supuestas interpretaciones de sus manifestaciones clínicas.
El clérigo experimentaba vértigos recurrentes; en una ocasión, tuvo que suspender un sermón al no poder mantenerse erguido. ChatGPT le aconsejó “tomarse las cosas con serenidad” y le garantizó una mejoría progresiva.
Al comunicar al asistente que «los feligreses consideran que he perdido la razón al rehusar acudir al hospital», la IA replicó que quedarse en su domicilio mientras ajustaba su sistema nervioso con la asistencia de ChatGPT era una situación que
Fuente: Ambito.com
