Textgenerierende KI-Systeme haben die breite Gesellschaft erreicht. Über deren Einsatz in der Medizin wird derzeit viel diskutiert.
Einfache Texte, Recherchen oder auch kompliziertere Aufgaben scheinen kein Problem für Software wie ChatGPT zu sein. Mittels künstlicher Intelligenz (KI) liefert das System Antworten basierend auf einem enormen Wissensstand. Fachleute sehen daher große Veränderungen in weiten Teilen unseres Lebens und speziell auch in der Medizin voraus. So können solche Systeme ärztliches Personal bei der Therapiefindung und Verfassung von Arztbriefen, Studierende bei Referaten und Doktorarbeit oder auch Wissenschaftlerinnen und Wissenschaftler bei der Entwicklung neuer Forschungsfragen unterstützen. Sprachmodelle haben so schon gezeigt, dass sie die Wissensprüfungen von Medizinexamen bestehen können. Unter dem Motto „Werden Sprachmodelle wie GPT die Medizin verändern?“ hat die Medizinische Fakultät kürzlich zu einer Podiumsdiskussion eingeladen.
Über das Potenzial und Risiken von Textgenerierenden KI-Systemen sprach Dekan Prof. Bernd Weber mit ukb-mittendrin:
Welche sinnvollen Anwendungsmöglichkeiten sehen Sie in der Medizin, zum Beispiel in der Forschung?
Prof. Weber: Die Einsatzmöglichkeiten in verschiedenen Bereichen sind wirklich enorm, und ich bin mir sicher, dass wir diese bisher noch unterschätzen. Eher naheliegende Anwendungsbeispiele sind die Zusammenfassung großer Wissensdatenbanken und die Ableitung von neuen Forschungsfragen daraus. Stellen Sie sich ein System vor, über das Sie in der Lage sind, einen Großteil der wissenschaftlichen Erkenntnisse einfach verfügbar zu haben – um spezifisch und sehr genau neue Fragestellungen zu entwickeln, um Wissenslücken zu schließen. Einfach gesprochen: was wäre das sinnvollste nächste Experiment, um möglichst effizient Daten zu erheben. Solche Systeme werden in der Medikamentenentwicklung beispielsweise schon eingesetzt – wenn auch bisher eher noch experimentell. Aber die Zusammenarbeit von KI-Modellen und empirischer Wissenschaft wird sicherlich weiter zunehmen.
… und in der Krankenversorgung?
Prof. Weber: In der Krankenversorgung muss es darum gehen, tatsächlich Arbeitserleichterungen in den Gesundheitsberufen, ob bei den Ärztinnen und Ärzten, in der Pflege oder anderen patientennahen Berufen zu erreichen. Hier ist den letzten Jahren der bürokratische und administrative Aufwand beachtlich gestiegen, und Digitalisierung hat in vielen Bereichen nicht die Arbeitserleichterungen bisher gebracht, die möglich wären und die man sich erhofft hat. Sichere und datenschutzkonforme Systeme können hier ungemein helfen, den Arbeitsalltag zu vereinfachen, und Routinearbeiten abnehmen. Ein Beispiel sind hier sicherlich Arztbriefe, die aus dem Krankenhausinformationssystem automatisch in einem ersten Entwurf erstellt werden können. Andere sind Spracherkennungssysteme, die helfen können, Gespräche mit der zu behandelnden Person sinnvoll zusammenzufassen und zu archivieren, sodass die ärztliche Fachperson oder die Pflegekraft sich komplett auf die Erkrankten konzentrieren können und nicht parallel Notizen machen müssen. Das wird auch im sozialen Umgang und der Kommunikation zu den Patientinnen und Patienten erhebliche Verbesserungen ermöglichen und einen natürlicheren Umgang.
Muss sich die Hochschullehre auf große Veränderungen einstellen?
Prof. Weber: Sowohl in den Schulen als auch den Universitäten werden diese Systeme zu signifikanten Veränderungen führen. Ich sehe es als Aufgabe unseres Bildungssystems, die Generation unserer Schülerinnen und Schüler, sowie der Studentinnen und Studenten auf diese Zukunft vorzubereiten, einen sinnvollen Umgang mit KI-Systemen zu erlernen und dabei nicht nur die Risiken in den Fokus zu stellen. Es bieten sich enorme Möglichkeiten in der Aneignung und Verfügbarkeit von Wissen, die wir unseren Studierenden nahebringen müssen und gleichzeitig auch zu vermitteln, dass man Systeme auch kritisch hinterfragen muss. Dazu ist ein zumindest basales Wissen der Funktionsweise der Systeme notwendig, mit dem wir unsere Studierende vertraut machen müssen.
Welche Chancen eröffnen sich insgesamt für die Medizin?
Prof. Weber: Es werden sicherlich in der nächsten Zeit eine ganze Reihe neuer Anwendungen entstehen, die den Arbeitsalltag der Personen im Gesundheitssystem erleichtern werden. Aber auch für die Betroffenen bieten sich Möglichkeiten, häufig komplexe Krankheitsbilder in einfacherer Sprache erläutert zu bekommen. Die gefühlten und realen Barrieren durch einen gefühlt ja viel natürlicheren Sprachumgang und Wissenszugang werden signifikant sinken.
Welche Gefahren sehe Sie?
Prof. Weber: Gefahren sehe ich derzeit als ein zu großes Wort. Man muss sich wie bei allen Werkzeugen, die man nutzt, über Limitationen bewusst sein. Die gerade am Anfang stark auch in den Medien aufbereiteten „Fehler“ oder „Halluzinationen“ dieser Systeme werden sinken. Es ist ja keineswegs so, dass Menschen fehlerfrei arbeiten. Daher muss man auch im Umgang mit modernen IT-Systemen weiter kritisch bleiben, das eigene Wissen nutzen und nicht blind vertrauen. Aber das tun Menschen gegenseitig ja auch nur auf Basis von Erfahrung und Kompetenzeinschätzungen. Diese Systeme werden sicher immer stärker als Begleiter in den klinischen Alltag Einzug nehmen.
Befürchten Sie eine zu schnelle Einführung und unkritische Nutzung?
Prof. Weber: Was wir derzeit erleben – und das ist relativ ähnlich zu anderen Innovationen – ist eine Gruppe von Personen, die sehr innovationsaffin sowie IT-nah sind und die gerne „rumprobieren“. Dies ist auch sehr wichtig, um Erfahrungen zu sammeln und auch Probleme und Fallstricke zu identifizieren. Hier muss man aber sehen, dass dies mehr individuelle Entscheidungen von Personen sind, diese Systeme zu nutzen. Sollten diese Systeme aber auf realen Patientendaten arbeiten und in klinische Systeme integriert werden, dann müssen natürlich Fragen des Datenschutzes, der Privatsphäre und auch möglicher Fehlerquellen ausführlich besprochen und geklärt sein. Nur so wird dies auch eine Akzeptanz unter den Gesundheitsberufen, aber auch den Patientinnen und Patienten finden.