ChatGPT demanda a un pastor de Florida para disuadirlo de buscar atención médica
LOS ÁNGELES.- Un usuario de ChatGPT presentó el miércoles una demanda por negligencia contra OpenAI y su director ejecutivo, Sam Altman, argumentando que el chatbot lo disuadió de buscar tratamiento al informarle sobre los síntomas de una enfermedad que podría haberle costado la vida.
En la demanda, Scott Winters, un pastor con sede en Florida, afirma que la herramienta de inteligencia artificial hizo recomendaciones equivocadas cuando le preguntó sobre los síntomas que estaba experimentando, lo que le provocó una enfermedad grave.
"Durante seis semanas tuve síntomas graves de una embolia pulmonar que ChatGPT atribuyó erróneamente a otra cosa", dijo Winters en un comunicado de Tech Justice Law, que lo representa en la demanda junto con otras firmas legales.
En la demanda presentada en el Tribunal Superior del condado de San Francisco, afirman que OpenAI no implementó las salvaguardas adecuadas para evitar que los usuarios siguieran consejos de salud perjudiciales.
Winters modeló el ChatGPT-4o en junio del año pasado después de sufrir frecuentes mareos y problemas de presión arterial.
Detalles del caso
El dispositivo minimizó los síntomas, calificándolos de relativamente leves, y le aconsejaron que se quedara en casa y "confinado en su sillón reclinable" hasta que experimentara de ocho a diez episodios similares para que su condición se considerara grave, según documentos judiciales.
Unas semanas más tarde, Winters sufrió una embolia pulmonar masiva provocada por un coágulo de sangre que lo llevó "al borde de la muerte" y lo dejó incapaz de trabajar.
El usuario afirmó que el chatbot manipuló su propio lenguaje y su creencia de que era un sacerdote religioso. "No sólo estuve a punto de morir, sino que perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo", añadió.
Tiffany Brown, abogada de Tech Justice Law, advirtió que el caso es una advertencia de lo que podría pasar si OpenAI no rinde cuentas.
"La empresa promueve fuertemente (ChatGPT) como una herramienta avanzada, incluido un recurso para encontrar información médica. Todo esto se hace sin controles de seguridad rigurosos ni salvaguardias adecuadas", añadió.
