ChatGPT von OpenAI, verfügbar im Web sowie für Android und iOS, steht gerade wegen einer Geschichte unter Beschuss, die sich online schnell verbreitet hat. Im Zentrum steht der Florida-Pastor Scott Winters und der Vorwurf, dass Krankheitssymptome von dem System verharmlost worden seien.
Für die angebliche Klage gibt es bislang keinen Nachweis
Der kursierenden Version nach soll Scott Winters ChatGPT über Wochen zu Schwindel und stark schwankendem Blutdruck befragt haben. Die Antworten hätten seine Beschwerden demnach nicht als akut bewertet und eher zu Ruhe geraten, statt ihm nahezulegen, einen Arzt aufzusuchen.
Später sei bei Scott Winters angeblich eine Lungenembolie festgestellt worden, ausgelöst durch Blutgerinnsel in beiden Lungen. Daraus wird dann die Behauptung abgeleitet, dass die Empfehlung zu Ruhe und Immobilität die Gefahr noch verschärft habe.
Außerdem heißt es, die Klage richte sich gegen OpenAI und gegen OpenAI-Chef Sam Altman. Im Raum stehen Fahrlässigkeit und die unerlaubte Ausübung der Heilkunde. Zu den angeblichen Forderungen zählt unter anderem Schadensersatz. Auch ein Produkt namens „ChatGPT Health“ solle gestoppt werden, bis seine Sicherheit nachgewiesen sei.
Nur: Nach Sichtung öffentlich zugänglicher Gerichtsunterlagen und glaubwürdiger Medienberichte gibt es dafür derzeit keinen Beleg.
Das Problem dahinter ist trotzdem real
Der konkrete Fall bleibt also unbestätigt. Das eigentliche Problem verschwindet damit aber nicht. Immer mehr Menschen stellen Chatbots Gesundheitsfragen, obwohl diese Systeme nie als medizinisch validierte Werkzeuge gedacht waren. ChatGPT liefert zwar schnell Antworten, ersetzt aber keine ärztliche Diagnose.
Gerade der selbstsichere Ton kann dazu führen, dass Warnzeichen unterschätzt werden.
Fachleute weisen schon länger darauf hin, dass automatisierte Antworten oft mehr Vertrauen bekommen, als sie eigentlich hergeben. OpenAI selbst schreibt, dass seine Dienste nicht für medizinische Beratung gedacht sind. Kritikern reicht dieser Hinweis nicht.
Wenn Nutzer potenziell ernste Symptome schildern, müssten solche Systeme zuverlässig dazu raten, professionelle Hilfe zu suchen. Genau dort zeigen sich in der Praxis immer wieder Lücken.
Studien zeigen, was klappt und wo die Grenzen liegen
Wie gut ChatGPT bei Gesundheitsfragen wirklich abschneidet, ergibt bisher kein klares Bild. In einer Studie aus dem Jahr 2023 in JMIR Medical Education lag die diagnostische Trefferquote bei rund 72 Prozent.
Andere Untersuchungen kamen zu dem Ergebnis, dass manche Antworten von Chatbots als einfühlsamer und qualitativ besser bewertet wurden als Antworten von Ärzten in Online-Foren. Gut formulierte Sätze und ein empathischer Ton sind aber nicht dasselbe wie klinische Verlässlichkeit.
Rechtlich ist vieles weiter offen
Dazu kommt ein regulatorisches Problem. Allgemeine Sprachmodelle lassen sich oft nicht sauber unter bestehende Regeln für Medizinprodukte fassen. Wer haftet, wenn Nutzer schädlichen Rat bekommen, ist juristisch weiter offen.
Falls ein vergleichbarer Fall tatsächlich vor Gericht landet, könnte er schnell zum Präzedenzfall werden. Wer bei Schwindel, Brustschmerzen, Atemnot oder stark schwankendem Blutdruck Rat sucht, sollte einen Chatbot deshalb nicht als letzte Instanz behandeln.
Downloads: Download ChatGPT für Android und iOS
