Un usuario de ChatGPT presentó este miércoles una demanda por negligencia contra OpenAI y su director ejecutivo, Sam Altman, argumentando que el chatbot lo disuadió de buscar tratamiento médico al consultar por los síntomas de una enfermedad que le pudo costar la vida.
En la demanda, Scott Winters, pastor residente de Florida, afirma que la herramienta de inteligencia artificial le hizo recomendaciones inexactas cuando le preguntó por unos síntomas que experimentaba, que desembocaron en una enfermedad grave.
"Durante seis semanas presenté síntomas graves de embolia pulmonar que ChatGPT había atribuido erróneamente a otra cosa", declaró Winters en un comunicado.
En la querella, presentada en el Tribunal Superior del condado de San Francisco, aseguran que OpenAI no implementó las salvaguardas adecuadas para evitar que los usuarios siguieran consejos de salud perjudiciales.
Winters en junio del año pasado el modelo ChatGPT-4o sobre los mareos frecuentes y problemas con la presión arterial que experimentaba.
La herramienta habría restado importancia a los síntomas, calificándolos de relativamente leves, y le sugirió quedarse en casa y permanecer "confinado en su sillón reclinable", a menos que experimentara entre ocho y diez episodios similares, para considerar su afección como grave, según los documentos judiciales.
Unas semanas más tarde, Winters sufrió una embolia pulmonar masiva causada por coágulos sanguíneos que lo llevaron "al borde de la muerte" y lo incapacitaron para realizar su trabajo.
El usuario aseguró que el chatbot manipuló su propio lenguaje y sus creencias al saber que era pastor religioso. “No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo", agrega.
Tiffany Brown, abogada de Tech Justice Law , advirtió que este caso es una advertencia de lo que está por venir si no se hace responsable a OpenAI.
