- Sallam M (2023) ChatGPT Utility in Healthcare Education, Research, and Practice: Systematic Review on the Promising Perspectives and Valid Concerns. Healthcare 11:887. https://doi.org/10.3390/healthcare11060887
KI, ChatGPT und die Innere Medizin
Spätestens mit ChatGPT ist Künstliche Intelligenz (KI) in unserem gesellschaftlichen und persönlichen Bewusstsein sowie in unserem privaten wie berufichen Leben angekommen. Es stellt sich nicht mehr die Frage, ob, sondern nur noch wie KI unser Leben und Dasein als Menschen und Internisten verändern wird.
Aktuelle Diskussionen
Derzeit zeigen sich vielfältige Missbrauchspotenziale von KI. Sie generiert zum Beispiel eloquent klingende Texte, deren Wahrheitsgehalt sich aber bei näherem Hinsehen als falsch darstellt. Deepfake-Accounts, -Videos, -Tondokumente und -Fotos sollen difamieren und irritieren. Troll-Armeen beeinfussen in Sozialen Medien die Stimmung der Bevölkerung, den Ausgang von Wahlen und zielen gar auf die Spaltung von Gesellschaften. Selbst Protagonisten und Entwickler von KI warnen inzwischen und fordern zur Regulierung der KI auf. Schauspieler und Drehbuchautoren gehen in Hollywood gegen KI in den Streik. Das Future-of-Life-Institut verlangt gar ein Moratorium der Weiterentwicklung von KI, um dem gesellschaftlichen Diskurs und der anschließenden regulatorischen Rahmung überhaupt eine Chance zu geben, der rasanten KI-Entwicklung folgen zu können. Diese Forderung haben bereits über 33.000 Personen unterschrieben, darunter renommierte Akteure wie Elon Musk, Steve Wozniak, Luc Steels oder Yuval Noah Harari. Die Initiative hat jedoch wenig Chancen auf Realisierung, da der globale Wettlauf um KI viel zu ideologisch und wirtschaftspolitisch aufgeladen und zu wenig kollaborativ ist. Große politische Blöcke ringen um Deutungshoheit und Wirtschaftsmacht der Zukunft. KI als „Kampfmittel“ spielt hier eine zentrale Rolle, auch militärisch. Daher wäre es naiv zu glauben, führende KI-Nationen oder Unternehmen würden bei der KI-Entwicklung auf die Bremse treten, genauso wenig wie die Wissenschaft. Zu groß die Verlockungen von Macht-, Geld-, Effizienz-, Reputations- und Wissensgewinn.
Aufallend klar bemüht sich die EU um eine globale Vorreiterrolle bei der Defnition eines regulatorischen Rahmens. Dieser soll einerseits Entfaltung der KI erlauben, gleichzeitig aber Missbrauch soweit wie möglich begrenzen – selbst auf die Gefahr hin, dadurch kurzfristig wirtschaftliche Nachteile zu erleiden.
In kaum einer Disziplin liegen Chancen und Risiken von KI so nah beieinander wie in der Medizin und Gesundheitsversorgung. Falschinformation, Intransparenz und Datenmissbrauch können, wenn es um Prävention, Diagnose und Therapie geht, fatale und nachhaltige Folgen haben und Vertrauen in System und Ärzteschaft beschädigen, gar zerstören – und am Ende auch Menschenleben kosten. Andererseits hat zum Beispiel die COVID-Impfstofentwicklung gezeigt, wie notwendig KI ist: Ohne sie hätte die Pandemie deutlich gravierender gewütet. Wie Veer Patel und Manan Shah in „Intelligent Medicine“ 2022 zeigen, beschleunigt KI in mittlerweile allen wesentlichen Bereichen der Impfstof-, Medikamenten- und Wirkstofentwicklung die Prozesse, indem sie hilft, die enormen Möglichkeitsräume auf die aussichtsreichsten Segmente zu reduzieren. KI hilft Strukturen potenzieller Wirkstofe, Zielproteine und ihre 3D-Interaktion vorherzusagen, und trift Vorhersagen zur erwarteten biologischen Wirksamkeit oder zu physikochemischen Eigenschaften und Toxizität. Nur so war es möglich, Impfstofe gegen COVID so schnell auf den Markt bringen und an Mutationen anpassen zu können. Kein Wunder also, dass BioNTech Anfang dieses Jahres mit hunderten von Millionen Euro beim KI-Unternehmen Instadeep einstieg. Medikamentenentwicklung fußt zunehmend auf KI-Entwicklung. Aber auch im klinischen Alltag fasst KI mehr und mehr Fuß. So hilft sie beim Operieren mit Robotern (z.B. DaVinci), steuert Pfegeroboter (z.B. Care-O-bot 4), sozio-interaktive (z.B. Paro) oder Hebe-Roboter (z.B. Robear) oder kann in digitalen Gesundheitsanwendungen (DiGA) bei Übungen die Körperhaltung im Live-Video analysieren und Hinweise zur korrekten Durchführung geben (z.B. Kaia).
Was uns die KI bringen kann
Sichtet man die wissenschaftlichen Publikationen zu Künstlicher Intelligenz im Gesundheitswesen – sie waren in den vier Jahren 2019 bis 2022 mit ca. 75.000 Artikeln in etwa so zahlreich wie in den 10 Jahren vor 2019 – so findet man eine Vielzahl von Studien, die KI nutzen, um diagnostische, therapeutische, pfegerische oder verwaltungstechnische Probleme zu lösen – teilweise mit vielversprechendem Erfolg in der täglichen Praxis. Dabei reicht das Spektrum von Bildanalyse (z. B. Erkennen von Aufälligkeiten in dermatologischen Aufnahmen, pathologischen Schnitten oder radiologischen Bildfolgen), über 2D-Video-Analyse (z.B. Spermien-beweglichkeit, Endoskopie und Ultraschall) und 3D-Szenen-Analysen (z. B. Erkennen von Ganganomalien und Autismus-typischen Bewegungsmustern) bis hin zum kontinuierlichen Monitoring von Parametern auf der Intensivstation zum frühzeitigen Erkennen von Sepsis oder Nierenversagen. Auch Symptom-Checker, die bei der Diagnosestellung hilfreiche Zuarbeit leisten können, haben inzwischen einen hohen Reifegrad und eine beträchtliche Verbreitung erreicht. Sie helfen in den USA und Asien Erkrankten, einen angemessenen Zugang zum Gesundheitssystem zu fnden, und entlasten das Fachpersonal, indem sie Informationen zu Beschwerden, Vorerkrankungen, Allergien, Medikation etc. aufbereiten. Die KI übernimmt dabei mehr oder weniger die Rolle eines kompetenten Co-Piloten, der Healthcare-Professionals Arbeit abnimmt und mit Zweitmeinungen oder Handlungsvorschlägen zur Seite steht.
Die Publikationen zeigen, dass es kaum einen Bereich der medizinischen Versorgung gibt, in dem KI nicht zu einem festen Bestandteil des Versorgungspfades werden wird.
Daneben hat KI das Potenzial, in der Verwaltung Routineaufgaben und „nach Schema-F“ ablaufende Dokumentations-, Codierungs-, Kontroll- und Verwaltungstätigkeiten zu übernehmen; ebenso das Verfassen von Arztbriefen oder einige der in Qualitätssicherung und Ressourcenplanung zeitraubenden Verwaltungs-arbeiten. Die Juristen machen es vor: KI-System „Olga“ hilft in Stuttgart bei der Auf- und Abarbeitung von Dieselprozessklagen, „Frauke“ in Frankfurt bei Fluggastrecht-Prozessen. KI bietet also die Chance, medizinisches Fachpersonal von sinnentleerender Arbeit zu befreien und Freiräume für die Arbeit mit und am Patienten zu schafen. KI kann damit helfen, die administrative Belastung zugunsten sinnstiftender Arbeit zu reduzieren.
Wie allerdings diese punktuell nützlichen, KI-gestützten Helfer Eingang in den täglichen Behandlungsablauf in Kliniken und Praxen fnden können, ist noch unklar. Im Moment fristen die meist in akademischen Krankenhäusern entwickelten Anwendungen ihr Dasein auf dedizierten, im Rahmen von Forschungsprojekten angeschaften Computern. IT-Infrastrukturen in Kliniken und Praxen sind nicht auf daten- und rechenintensive oder zeitkritische KI-Systeme vorbereitet. Der Königsweg der KI in die Routine geht heute vor allem über die Hardware der medizin-technischen Geräte (fMRI, MRT, Endoskopie etc.). KI wird also von den Geräteherstellern entwickelt, in Geräte implementiert und mit diesen am Point-of-Care angeboten. Es stellt sich die Frage, ob wir uns damit abfnden oder nicht doch eine IT-Infrastruktur haben wollen, die es erlaubt, eigene KI-Anwendungen punktgenau in die Prozesslandschaft der eigenen Klinik integrieren zu können. Zumindest akademischen Krankenhäusern sollte dies möglich sein. Aber wie wäre dann der rechtliche Rahmen? Wäre die KI Anwendung eine Art „Medizinprodukt in Eigenherstellung“? Erst wenn hier Sicherheit und Klarheit besteht, wird es möglich werden, dass viele kleine „hausgemachte“ KI-Lösungen zur Verbesserung klinischer Prozesse lokal-spezifsch beitragen können. Ein gemeinsamer Vorstoß medizinischer Fachgesellschaften zum Beispiel mit der Deutschen Gesellschaft für Medizinrecht könnte hier Entwicklungsoptionen aufzeigen.
Ausblick
Werfen wir am Ende nochmal einen Blick auf das jüngste und bislang wirkmächtigste Kind der KI: ChatGPT. Eine Meta-Studie1 zeigt, für welche Anwendungsbereiche diese Transformer-Technologie derzeit vorrangig erforscht wird (Tab. 1). Insgesamt wird das positive Potenzial gesehen, aber viel kluge und kontinuierliche Arbeit wird noch notwendig sein, um die Potenziale von KI fächen-deckender auszuloten und den Gefahren angemessen zu begegnen, ohne dabei regulatorische Ungetüme zu schafen.
Zum Ersten braucht es eine Möglichkeit der technischen Prüfung und Zertifzierung von außen. TÜV, DIN, VDE, EU, WHO, ITU – viele Institutionen haben sich auf den Weg gemacht, um hierfür Standards zu defnieren. Zum Zweiten braucht es Rahmen, die „by design“, also von innen heraus, Werte sicherstellen. Eine Art „Hippokratischer Eid“ für KI-Entwickler in der Medizin. Zum Dritten benötigen wir eine Plattform, die die medizinisch-fachliche und -ethische Qualität der Systeme verlässlich, kritisch und regelmäßig in den Blick nimmt. Eine solche Plattform muss im jeweiligen Land von Domänen-Experten, also z. B. medizinischen Fachgesellschaften, mitgestaltet und mitbetrieben werden. Das medizinische Testen von KI allein technischen Überwachungsvereinen oder anderen Ingenieursverbänden zu überlassen, ist keineswegs hinreichend. Hier ist die medizinische Gemeinschaft ausdrücklich aufgefordert, sich entschieden zu engagieren. Als Vorbild könnte die Qualitätssicherung medizinischer Leitlinien dienen, für die sich eine große Zahl medizinischer Fachgesellschaften in der Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften e.V. (AWMF) zusammengeschlossen hat. Ein solches Modell wäre auch für die KI denkbar.
In einer so vielschichtigen Gemengelage, in der technisch sehr kurze Innovationszyklen auf eine global-politische Plattentektonik trefen, ist es auch für eine Fachgesellschaft wie die DGIM schwierig bis unmöglich, die Wertigkeit von neuen Entwicklungen zu beurteilen oder gar Prognosen für ihre Relevanz in der Anwendung abzugeben. Die Arbeitsgruppe KI der DGIM hat sich dennoch für eine Haltung des vorsichtigen Optimismus entschieden. Zu bedeutsam sind die Chancen für medizinische Qualitätssicherung und efektivere Versorgungsprozesse sowie für kognitive und administrative Entlastung. KI bietet die große Chance, die sinnstiftende und menschliche Interaktion mit dem Patienten auszuweiten und administrative und datenauswertende Routineaufgaben an KI zu delegieren. Unverrückbar bleibt dabei, dass Ärztinnen und Ärzte, Pfegerinnen und Pfeger im Fahrersitz der Versorgung bleiben. Wesentliche Entscheidungen müssen weiterhin Ärztinnen und Ärzten in letzter Verantwortung vorbehalten bleiben.
Und da ist noch etwas: In der Debatte um die zukünftige Rolle der KI wird die Medizin vielleicht auch deshalb so oft thematisiert, weil sie eine Art Lackmus-Test zu sein scheint, ob und wie KI verantwortungsvoll in die Gesellschaft integriert werden und in einer den Menschen dienenden Weise gelingen kann. Medizin war schon immer ein sensibler Indikator für gesellschaftliche Veränderungen. Es lohnt sich also doppelt, sich für eine verantwortungsvolle KI einzusetzen.
Prof. Dr. med. Martin Hirsch, Prof. Dr. med. Edouard Battegay, AG „KI in der Inneren Medizin“
Künstliche Intelligenz entwickelt sich rasant weiter – entsprechend kurz können die Halbwertszeit und das Verfallsdatum von Dokumenten zu dieser Thematik sein. Die Arbeitsgruppe „KI in der inneren Medizin“ versucht daher, beginnend mit dem vorliegenden Kommentar, in loser Folge aktuelle Geschehnisse im Bereich der KI kritisch zu kommentieren und auf sich herausbildende Strukturen aufmerksam zu machen.