Estos días ha circulado una supuesta demanda presentada en Florida contra OpenAI. La movieron medios y redes sociales, pero todavía no han aparecido documentos judiciales públicos ni reportes fiables que confirmen el caso tal como se está contando. Aun así, el ruido alrededor del tema ha vuelto a poner sobre la mesa la discusión sobre los chatbots de salud.
Y conviene partir de ahí. Como pasa con cualquier historia que todavía se sostiene más en versiones que en pruebas, todo lo que sigue hay que leerlo con cuidado: por ahora no hay expediente público ni informes creíbles que acrediten que ese pleito exista en los términos en que se está difundiendo.
Eso no hace que la conversación sea menor. Más bien al revés. Lo que esta historia ha dejado expuesto es un riesgo muy concreto de los chatbots de propósito general cuando entran en asuntos médicos: pueden contestar con aplomo, sonar razonables y convincentes, y aun así no empujar a la persona a consultar con un profesional.
La versión que más se repite señala como demandante a Scott Winters, un pastor de Florida que, supuestamente, habría pasado semanas consultando a ChatGPT por mareos y por una presión arterial inestable. Según ese relato, el chatbot le quitó gravedad al asunto, le recomendó seguir descansando y no le sugirió buscar atención médica urgente. Después, siempre según esa misma versión, los médicos le diagnosticaron una embolia pulmonar y le explicaron que la inmovilidad habría empeorado el cuadro.
La demanda, si esa narración fuera correcta, acusaría a OpenAI y a Sam Altman de negligencia y de ejercicio no autorizado de la medicina.
También reclamaría una indemnización y pediría suspender un supuesto producto llamado ChatGPT Health hasta que pudiera demostrar que es seguro. Pero aquí aparece el vacío central: la responsabilidad legal por daños causados por sistemas de este tipo sigue siendo un terreno poco pisado en los tribunales y, en este caso, falta la comprobación más básica de todas, el expediente.
Auténtica o no, la demanda toca un problema de fondo: la facilidad con la que mucha gente puede confiar de más en respuestas automáticas que suenan claras, tranquilas y hasta empáticas. Y esa mezcla puede hacer que alguien tarde más de la cuenta en buscar ayuda profesional.
En salud, eso pesa más. Las condiciones de uso de OpenAI dejan claro que ChatGPT no está diseñado para dar consejo médico, aunque en la práctica mucha gente lo usa como una primera consulta informal. Ahí está la zona delicada: la herramienta puede dar sensación de utilidad, pero no es un instrumento validado clínicamente ni para diagnosticar ni para decidir tratamientos.
Los datos que hay hasta ahora no cuentan una historia simple. Un estudio de 2023 publicado en JMIR Medical Education situó la precisión diagnóstica de ChatGPT alrededor del 72%. La cifra sugiere que puede tener cierta utilidad. También deja un margen de error demasiado grande como para pensar en él como sustituto de un médico.
Hay más. Otros trabajos publicados sobre estos sistemas han visto que sus respuestas pueden percibirse como más empáticas y, a veces, incluso de mayor calidad que las de profesionales en determinados formatos. Y ya existe un antecedente concreto: la National Eating Disorders Association retiró una herramienta conversacional cuando detectó recomendaciones perjudiciales.
Mientras tanto, los reguladores, incluida la Administración de Alimentos y Medicamentos de Estados Unidos, la FDA, siguen armando marcos para las herramientas médicas basadas en software. El problema es que los chatbots de propósito general suelen quedarse fuera de muchas de las categorías tradicionales. Por eso crece la presión para endurecer avisos, acotar usos y activar mecanismos de derivación cuando aparecen síntomas que pueden indicar riesgo.
Si esta historia termina siendo cierta, y a día de hoy no tenemos pruebas de ello, deja una conclusión incómoda para la industria: en salud no alcanza con sonar convincente. Cuando una herramienta no sabe algo con certeza, tendría que decirlo antes, y decirlo mucho más claro.
