Herr Ranisch, immer mehr Menschennutzen frei verfügbare KI-Chatbots wie ChatGPT für Fragen rund um ihre Gesundheit. Wie verbreitet ist das bereits?
Genaue Zahlen für Deutschland haben wir meines Wissens nicht. Aber Befragungen deuten an, dass knapp die Hälfte der Deutschen entsprechende KI-Chatbots schon einmal für Gesundheitsthemen genutzt hat. Das ist bemerkenswert, da ChatGPT ja erst vor gut drei Jahren veröffentlicht wurde. Diese Technologie hat sich vermutlich schneller verbreitet als jede andere zuvor. Heute steckt sie buchstäblich in den Hosentaschen vom Schüler bis zur Seniorin. Systeme wie ChatGPT präsentieren sich ja als Alleskönner und kommen ohne Gebrauchsanleitung daher. Entsprechend experimentieren Menschen mit sehr unterschiedlichen Anwendungen: von Kochrezepten über Hausaufgaben bis hin zur Einschätzung eigener Symptome.
Wie verlässlich sind denn die Antworten von KI-Chatbots?
Das lässt sich nicht pauschal beantworten. Schon kurz nach der Veröffentlichung von ChatGPT im Jahr 2022 haben wir Studien zur Verlässlichkeit in medizinischen Notfallszenarien durchgeführt. Damals war unsere Annahme: In absehbarer Zeit wird praktisch jeder einen KI-Chatbot auf dem Smartphone haben. Damit steigt die Wahrscheinlichkeit, dass Menschen z. B. auch in Notfallsituationen die KI fragen: Muss ich den Notruf wählen oder kann ich abwarten? Wir haben schon damals eine verblüffend gute Symptomeinschätzung gesehen. Die Ergebnisse waren so gut, dass wir spekulierten, ob unsere Szenarien vielleicht Fallbeispielen aus Lehrbüchern ähneln, die in den Trainingsdaten stecken. Dann hätte der Chatbot nicht wirklich die Situation eingeschätzt, sondern nur die richtigen Antworten erinnert.
… und das wäre ein Problem?
Schon die frühen Versionen haben zum Teil exzellent in standardisierten Prüfungen für Medizinstudierende abgeschlossen. Das heißt aber nicht, dass sie in der medizinischen Praxis zu gebrauchen sind. Zum Thema Symptomeinschätzung haben mittlerweile viele Untersuchungen gezeigt, dass Chatbots unter Idealbedingungen gute Einschätzungen liefern. Es ist aber etwas ganz anderes, wenn Nutzer*innen dann wirklich zum Chatbot greifen. Entscheidend ist, dass die Interaktion zwischen Mensch und Maschine auch unter Realbedingungen verlässlich funktioniert. Das tut sie bislang nicht.
Welche Risiken birgt das für medizinische Laien?
Im besten Fall gehen Menschen aus unbegründeter Sorge in die Arztpraxis. Im schlimmsten Fall ignorieren sie tatsächliche Krankheitsanzeichen. Da erleiden Patienten beispielsweise einen Schlaganfall und bekommen dann von der KI als Antwort, sich einfach mal auszuruhen. Oder sie vergiften sich fast, weil sie falsche Ernährungstipps bekommen haben. Alles schon in ähnlicher Form passiert. Derartige Fälle werden wir künftig wohl häufiger erleben. Denn an generativer KI kommen wir kaum noch vorbei, sie ist mittlerweile in viele Suchmaschinen integriert. Erst kürzlich hat Google seine KI-generierten Zusammenfassungen von Suchergebnissen für Gesundheitsthemen deaktiviert. Wieder einmal wurden falsche und zum Teil gefährliche Ratschläge fabriziert.
Eine Portion Skepsis ist gegenüber den Ratschlägen der KI also angebracht?
Ein gesundes Misstrauen gegenüber KI-Chatbots sollte immer erhalten bleiben. Sie bieten heute Funktionen, die wir sonst nur von sorgfältig geprüften Medizinprodukten erwarten würden. Aber genau das sind sie meist nicht. Ein zentrales Risiko liegt in der Kommunikationsweise der Systeme. Chatbots formulieren sehr flüssig und selbstbewusst, auch dann, wenn Inhalte falsch oder unvollständig sind. Für Nutzer*innen ist kaum erkennbar, wann ein System verlässlich ist und wann nicht.
Warum wirken die Antworten trotzdem so überzeugend?
Vereinfacht gesagt haben KI-Modelle keinen Sinn für Wahrheit. Sie sind darauf trainiert, Antworten zu erzeugen, die uns Menschen gefallen. Sie reden uns daher auch häufig nach dem Mund und können zu Echokammern werden, in die wir uns ganz wunderbar hineinsteigern können. Das macht es umso schwerer zu erkennen, wenn sie Falschinformationen verbreiten oder halluzinieren. In einer unserer Studien hat uns durchaus überrascht, wie häufig bei Gesundheitsfragen mit großer Überzeugungskraft gefährlicher Unsinn ausgegeben wird. Genau darin liegt aber nicht nur ein großes Risiko, sondern auch eine Stärke dieser Systeme: Viele Menschen empfinden die Antworten als besonders empathisch und verständlich, teilweise sogar mehr als ärztliche Auskünfte.
Wo könnte eine generative KI unser auf Kante genähtes Gesundheitswesen entlasten?
Das Ziel von KI-Chatbots in der Medizin ist nicht der Ersatz von Ärzt*innen, sondern eine Ergänzung. Hier sehe ich tatsächlich viele Potenziale. Ein naheliegender Bereich ist die Dokumentation. Generative KI könnte etwa während Visiten die Gespräche für Patientenakten zusammenfassen und zugleich auch für Laien verständlich aufbereiten. Und warum nicht einen Avatar für Zuhause verschreiben? Einen Chatbot, der beim Patienten im täglichen Dialog Symptome abfragt, ihn aufklärt und Daten erhebt. Wie geht es dem Patienten? Hat er die Tabletten genommen? Wie hat er gegessen? Wie war der Schlaf? Hat er Fieber? In den Vereinigten Staaten gibt es bereits entsprechende Versuche. In der Gesundheitsversorgung und in der Pflege wertvolle Kapazitäten freizulegen, ist auch aus ethischer Sicht notwendig.
Wie sieht es mit therapeutischen Anwendungsfällen aus – etwa in der Psychotherapie?
Es existieren bereits Mental-Health-Anwendungen, die therapeutische Gespräche nachahmen. Nicht, weil es für Patientinnen und Patienten unbedingt besser wäre, mit einer KI zu sprechen, sondern, um lange Wartezeiten auf Therapieplätze zu überbrücken, oder als begleitendes Angebot. In vielen Teilen der Welt haben Menschen gar keinen Zugang zu fachärztlicher Versorgung. Die Angebote fehlen schlichtweg oder sind unbezahlbar. Trotzdem dürfen wir nicht vergessen: Wenn sich Menschen an frei zugängliche KI-Chatbots wenden, ersetzt das keine vertrauensvolle therapeutische Beziehung. Chatbots unterliegen keiner Schweigepflicht und bleiben letztlich eine Simulation zum Zwecke der Behandlung, wenn auch einer zuweilen wirksamen.
Generative KI leitet aus großen Datenmengen eine Vorhersage für das ab, was als nächstes kommt. Rechnet mir ein Algorithmus bald meine Krankheitsrisiken aus?
Daran wird gearbeitet. Eine deutsch-dänische Arbeitsgruppe hat z.B. letztes Jahr gezeigt, dass solche Vorhersagen grundsätzlich auch für Krankheitsverläufe möglich sind. Die Forschenden trainierten eine ältere Version eines GPT-Basismodells mit den Langzeitdaten von rund 80.000 Patientinnen und Patienten im Vereinigten Königreich. Anschließend wurde das System an mehr als zwei Millionen Datensätzen aus Dänemark getestet. Das Modell, Delphi-2M genannt, konnte die Risiken und Verläufe von Hunderten Erkrankungen durchaus bemerkenswert gut einschätzen. Der Name ist allerdings hoch gegriffen: Ein Orakel, das die individuelle Gesundheitszukunft zuverlässig vorhersagt, ist es nicht. Für die Forschung und für populationsbezogene Analysen sind solche Ansätze dennoch interessant. Insgesamt sind wir gerade noch dabei zu verstehen, welche Potenziale in generativer KI für die Gesundheitsforschung und -versorgung stecken.
Und jetzt drängen große KI-Unternehmen mit Angeboten wie ChatGPT Health oder Claude for Healthcare in den Gesundheitsmarkt. Wie wird das die Gesundheitsversorgung verändern?
Zumindest in den USA bieten ChatGPT, Claude und andere inzwischen spezialisierte Chatbots für den Gesundheitsbereich an. Das war absehbar. Die Unternehmen arbeiten seit Längerem mit Kliniken und Gesundheitsorganisationen zusammen und erproben medizinische Anwendungsszenarien. Neu ist allerdings, dass gezielt Endnutzerinnen und Endnutzer angesprochen werden. Was davon tatsächlich in Europa ankommt, bleibt abzuwarten. Derzeit gibt es noch zu viele offene Fragen zur tatsächlichen Leistungsfähigkeit solcher Systeme, angefangen bei ihrem klinischen Nutzen und möglichen Versorgungseffekten bis hin zu bekannten Problemen wie Halluzinationen oder systematischen Verzerrungen. Der großflächige Einsatz solcher Systeme gleicht in gewisser Weise einem riesigen Realexperiment –mit unbekanntem Ausgang.
Robert Ranisch ist Juniorprofessor für Medizinische Ethik mit Schwerpunkt auf Digitalisierung (Tenure Track) an der Fakultät für Gesundheitswissenschaften.
Dieser Text erschien im Universitätsmagazin Portal - Eins 2026 „Inklusion“.