ChatGPT im Krankenhaus

Wie benutzen Sie derzeit ChatGPT?

Ich benutze ChatGPT für allgemeine Verwaltungstätigkeiten wie das Formulieren von E-Mails, Briefen oder Empfehlungsschreiben. Für das wissenschaftliche Arbeiten nutze ich darüber hinaus Elicit – auch Perplexity habe ich ausprobiert. Insofern funktioniert ChatGPT ganz gut für mich, wenn ich vorhandenes Wissen zusammenstellen will.
An ihre Grenzen stößt die Software, wenn es um wirklich neue Fragestellungen geht – beispielsweise um Ideen für neue wissenschaftliche Fragestellungen. 

Welche Grenzen gibt es bei der Nutzung für Sie?

Man darf auf keinen Fall Patientendaten in ChatGPT eingeben. Leider gibt es keine Anwendung auf einem lokalen Server mit Kliniklizenz. Die wäre sehr hilfreich, aber derzeit gibt es keine datenschutzkonforme Lösung. Die Software würde vieles vereinfachen, beispielsweise die Erstellung eines Arztbriefes. Auch kann ChatGPT klinische Fragestellungen beantworten. Dabei macht es aber einen Unterschied, ob das ein Laie tut oder ein Mediziner wie ich, der einschätzen kann, ob Antworten stimmen – oder nicht.

Wie werden denn momentan noch Arztbriefe erstellt?

Das ist von Klinik zu Klinik extrem unterschiedlich. Bei uns sind die Überschriften vorgefertigt und wir tragen dann die Diagnose, die Therapie, die Anamnese, den Verlauf und etwaige Komplikationen ein. Zudem beschreiben wir die nächsten Schritte: Der Patient soll zur Verlaufskontrolle kommen, darf zum Beispiel das operierte Bein einige Wochen nicht belasten, muss folgende Medikamente nehmen usw. Das ist alles relativ zeitaufwändig und repetitiv. Vereinzelt gibt es komplexere Patientenverläufe und sehr komplexe Operationen, aber die meisten Eingriffe und Nachbehandlungen sind einfach und wiederkehrend.
Hier könnte man mit einem großen Sprachmodell, das sich Daten aus dem System selbst zusammensucht oder auch Gespräche aufzeichnet und daraus eigenständig einen Text erstellt, extrem viel Zeit sparen. Die gewonnene Zeit könnten wir dann für direkte Gespräche mit den Patientinnen und Patienten verwenden.

Was sind „klinische Fragestellungen“ und wie hilft ein großes Sprachmodell Ihnen dabei?

Eine klinische Fragestellung ist beispielsweise, welches Verfahren sich spezifisch für die Operation einer bestimmten Fraktur (Knochenbruch) eignet. Hier kann ChatGPT recherchieren, welche aktuellen Empfehlungen und Leitlinien es gibt und diese beispielsweise hinsichtlich ihrer Vor- und Nachteile miteinander vergleichen. Das sind keine exklusiven Informationen, die kann ich mir auch manuell heraussuchen. ChatGPT gibt sie mir aber sehr schnell und direkt, etwa als Tabelle oder Fundstelle in einem Dokument.

Sollten auch Patientinnen und Patienten ChatGPT um Rat fragen?

In der Medizin wird ja virulent diskutiert, ob man Patientinnen und Patienten empfehlen soll, „Doktor ChatGPT“ um Rat zu fragen. Ich persönlich empfehle es sogar – allerdings mit einigen Einschränkungen. ChatGPT kann einem Laien sehr verständlich erklären, was etwa das Problem ist, warum man operieren muss und welche Operationsverfahren es gibt. Da kann es viel vorwegnehmen und man kann mit sehr konkreten Fragen auf die Ärztin oder den Arzt zugehen. Das ist hilfreich, weil die Zeit von uns Ärztinnen und Ärzten leider immer sehr limitiert ist. Manche Patientinnen und Patienten vergessen auch wieder Informationen und dann muss ich ihnen Dinge mehrmals erklären – auch hier kann ChatGPT helfen.

Andererseits kommen da manchmal auch unsinnige oder fehlerhafte Antworten, die man als Laie oft nicht als solche erkennt. Deswegen sollte ChatGPT das Gespräch mit der Ärztin oder dem Arzt nie ersetzen. Auch hat man überhaupt keine Sicherheit, was die Nutzung der eigenen sensiblen eingegebenen Daten angeht.

Apropos Daten: Sie haben eingangs erwähnt, dass Sie kein großes Sprachmodell benutzen, weil es keine datenschutzkonforme Lösung gibt. Wenn es diese gäbe – hätten Sie dann überhaupt genug Daten in maschinenlesbarer Form für die Künstliche Intelligenz?

Ja. Wir haben in Deutschland extrem hochwertige medizinische Daten, hier stehen wir auch im europäischen Vergleich sehr gut da. Die Daten sind jedoch auf ganz vielen verschiedenen Systemen verteilt, die nicht miteinander kommunizieren. Eigentlich in allen Kliniken in Deutschland, aber auch bei Kooperationspartnern in den Vereinigten Staaten sind die Systeme extrem fragmentiert. Das macht es sehr schwer, die Daten sinnvoll zu sammeln. Man muss sich die Informationen meistens händisch aus einzelnen Datenbanken ziehen, das ist kompliziert und zeitaufwändig.

Welche Vorteile hätte mehr Künstliche Intelligenz in den Kliniken?

Als Kliniker glaube ich, dass wir die Effizienz mit Künstlicher Intelligenz extrem steigern könnten – und das müssen wir auch. Denn der bürokratische Aufwand in Kliniken ist extrem hoch: von der Planung von Wiedereinstellungsterminen bis hin zur Arztbrieferstellung. Hier könnte Künstliche Intelligenz uns viel abnehmen, sodass Zeit frei wird für eigentliche ärztliche Tätigkeiten wie das Kümmern um und Sprechen mit Patientinnen und Patienten oder das Operieren. Die Patientinnen und Patienten müssen wir dabei unbedingt mitnehmen, denn sie haben eine Skepsis gegenüber dem Sammeln von Daten. Dabei sind sie nicht ganz im Unrecht, denn es entstehen neue Schwachstellen. Hier bedarf es sowohl mehr Zusammenarbeit zwischen Ärztinnen und Ärzten und IT als auch Aufklärung.
Insgesamt glaube ich aber, dass wir mit Künstlicher Intelligenz nicht nur sparen, sondern uns vor allem schneller und zielgerichteter um Patientinnen und Patienten kümmern könnten.