In einer Welt, in der medizinische Fachkräfte zunehmend mit einem breiten Spektrum komplexer Krankheitsbilder konfrontiert sind, verspricht die Einführung von Künstlicher Intelligenz (KI) eine dringend benötigte Entlastung. KI-gestützte Systeme bieten eine Unterstützung, indem sie klinische Befunde, Laborwerte und Bildgebungen zusammenführen. Diese Technologien können effizient Diagnosewege aufzeigen und dabei helfen, wertvolle Zeit zu sparen. Doch wie viel Vertrauen können wir in diese Technologie setzen?
Die Vertrauensfrage spielt eine zentrale Rolle bei der Integration von KI in das Gesundheitswesen. Zu viel Vertrauen könnte dazu führen, dass Ärzte sich unkritisch auf die Technologie verlassen, während zu wenig Vertrauen die Nutzung potenzieller Vorteile verhindert. Ein angemessenes Vertrauen soll angestrebt werden, aber wie realistisch ist das?
Diese Frage stellt sich auch Nadine Schlicker in ihrem Vortrag zum Thema Vertrauen und KI-Anwendungen. KI-Systeme in der Medizin übertreffen zum Teil Radiologen in ihrer Mammographie oder auch Dermatologen bei der Erkennung von Hautkrebs und wecken dadurch hohe Erwartungen. Die EU hat in dem Artificial Intelligence Act (AI Act) festgelegt, dass die Hochrisiko-KI-Systeme unter einer ständigen menschlichen Aufsicht stehen müssen. Dies impliziert, dass Ärzte in der Lage sein müssen, KI-Entscheidungen kritisch zu hinterfragen und gegebenenfalls zu korrigieren.
In der Praxis sieht das zunächst noch schwierig aus. Somit verlassen sich Ärzte in komplexen Fällen eher auf die KI, da sie sich unsicher fühlen. Auf der anderen Seite kann es zum sogenannten “Verschlimmbesserungseffekt” kommen, dies bedeutet eine Verschlechterung der KI-Leistung durch ein unangemessenes Eingreifen der Ärzte. Ärzte müssen daher lernen, die Vertrauenswürdigkeit von KI-Systemen richtig einzuschätzen, einschließlich der Deutung von Sicherheitsbewertungen. Dies erfordert eine klare Kommunikation über die Grenzen und Fähigkeiten der Systeme. Zudem ist weitere Forschung und Schulung des medizinischen Personals unbedingt notwendig.
Die Integration von KI in der inneren Medizin kann und hat bereits zu signifikanten Fortschritten geführt. Durch Technologien wie zum Beispiel Microsoft Copilot, die Gespräche nicht nur aufzeichnen, sondern auch zusammenfassen, wird die tägliche Arbeitslast der Mediziner erheblich erleichtert.
Ein weiteres Beispiel ist ein KI-gesteuerter Self-Check-In für eine erste Anamnese. Diese Technologie kommt dem Gespräch mit einem Arzt nahe und kann zudem kontaktlose Messungen von Vitalparametern wie Gesichtsanalysen und Stimmvariationen durchführen. Dies sorgt für eine präzise Erstdiagnose und könnte die Ärzte entlasten.
Allerdings wirft die Einführung von KI auch Herausforderungen auf, wie beispielsweise bei der KI-assistierten Koloskopie. So zeigten Berichte, dass nach der Einführung des Tools die Fehlerraten wieder anstiegen, obwohl zunächst gezeigt wurde, dass das Tool zu einer Verbesserung der Fehlerrate führte. Der Grund: zu viel Verlass auf die Technik. Dies verdeutlicht die Notwendigkeit einer sorgfältigen Überwachung durch medizinisches Fachpersonal.
Auch die fortschreitende Digitalisierung erfordert eine umfassende Schulung des medizinischen Personals, um die effektive Nutzung von KI-Tools zu gewährleisten. Zudem sollte sichergestellt werden, dass KI die medizinische Praxis unterstützt, ohne die kritische Urteilskraft der Ärzte zu schwächen. Die Zukunft der KI in der Medizin verspricht viele Möglichkeiten, verlangt jedoch gleichzeitig eine verantwortungsvolle Integration in die klinische Praxis.