Sorgt ChatGPT für eine Revolution in der Rheumatologie?* Logo of esanum https://www.esanum.de

Sorgt ChatGPT für eine Revolution in der Rheumatologie?*

Künstliche Intelligenz ist aktuell in aller Munde - auch in der medizinischen Community. Kann die Technologie halten, was sie verspricht? Eine Einschätzung aus der Rheumatologie.

* Wie es sich für einen Beitrag über den Chat Generative Pre-Trained Transformer (ChatGPT) gehört, wurde der Text mit Unterstützung von ChatGPT verfasst. Die Suche nach einer geeigneten Publikation und die Beitragserstellung wurden über die ChatGPT-gestützte Bing Suchmaschine von Microsoft moderiert. Die Ergänzung von Referenzen sowie eine Reihe von Anpassungen wurden im Anschluss durchgeführt.

Was ist ChatGPT?

Chat Generative Pre-Trained Transformer (ChatGPT) ist ein von Open AI entwickeltes künstliches Intelligenz (KI)-Tool, das auf Natural Language Processing-Modellen (NLP) basiert. Der KI-Chatbot reagiert auf User-Anfragen, indem er Informationen sammelt, analysiert und Machine Learning (ML)-Algorithmen anwendet.1

Seit seiner Einführung im November 2022 hat ChatGPT-3 weltweit das Interesse der medizinischen Gemeinschaft geweckt.1 Der KI-Chatbot war beispielsweise in der Lage, das United States Medical Licencing Exam (USMLE) zu bestehen oder rheumatologische Fallberichte zu formulieren. Eine optimierte Version, ChatGPT-4, soll noch besser und schneller in der Generierung von Inhalten, zum Beispiel für die medizinische Forschung und in der Entwicklung akademischer Inhalte, sein.2,3

Welche Vorteile kann ChatGPT in der Rheumatologie bieten?

In einer aktuellen Veröffentlichung diskutieren Nune et al. über die Vorteile und möglichen Auswirkungen der Anwendung von ChatGPT speziell in der Rheumatologie. Die Autorinnen und Autoren argumentieren, dass ChatGPT ein wertvolles Werkzeug in der Patientenversorgung sein könne. Obwohl noch weitere Forschung erforderlich sei, um die Fähigkeiten und Limitationen besser zu verstehen, deuteten erste Ergebnisse darauf hin, dass das KI-Tool eine sinnvolle Ergänzung vor allem in den folgenden Anwendungsbereichen sein könne:1

  1. Aufklärung: Die Aufklärung über krankheitsmodifizierende Medikamente ist entscheidend für die Behandlung von Patientinnen und Patienten mit Autoimmunerkrankungen. In einem Arbeitsumfeld mit konstant hoher Belastung kann die Kommunikation zwischen medizinischem Personal und Betroffenen aber schnell zu kurz kommen. Die KI könnte hier Abhilfe schaffen.1
  2. Befunderstellung: Die Zusammenfassung und Interpretation der Ergebnisse radiologischer Untersuchungen kann zeitintensiv sein. Die KI könnte Ärztinnen und Ärzte dabei zumindest unterstützen.1
  3. Dokumentation: Die KI könnte medizinisches Fachpersonal bei der Erfassung und Dokumentation wichtiger Informationen oder dem Verfassen von Arztbriefen unterstützen.1,4
  4. Aus- und Weiterbildung: Die KI ermöglicht interaktives Lernen und virtuelle Tutorials für Medizinstudierende.5
  5. Forschung und Qualitätsmanagement: Die KI kann beispielsweise die Rekrutierung von Teilnehmenden für klinische Studien unterstützen oder gewonnene Datensätze analysieren.1

Welche Herausforderungen birgt die Anwendung von ChatGPT?

Ist der Hype um ChatGPT und andere KI-basierte Technologien also gerechtfertigt? Aus medizinscher Sicht lautet die Antwort zumindest zum aktuellen Zeitpunkt: Jein. Nune et al. weisen auf Bedenken und Probleme in der klinischen Praxis hin. Die von ChatGPT generierten Inhalte können Fehler und Ungenauigkeiten enthalten, die im schlimmsten Fall negative Auswirkungen auf die Patientenversorgung haben können. Und auch die Entwickler von ChatGPT führen Limitationen ihrer Technologie an: Der Chatbot ist NICHT gleichzusetzen mit Angehörigen des medizinischen Fachpersonals, da er sein “Wissen” hauptsächlich aus weitestgehend öffentlichen Daten aus dem Internet bezieht, so die Autorinnen und Autoren.1

Als Negativbeispiel führen Nune et al. Studien an, die in von ChatGPT erstellten, radiologischen Berichten Fehler mit potenziell nachteiligen Folgen für die Patientenversorgung entdeckten.5-7 Darüber hinaus kann die Technologie gefälschte Forschungsergebnisse und -daten generieren – mit weitreichenden Konsequenzen für die Rheumatologie. Laut der Autorinnen und Autoren gibt es inzwischen erste Studien, in denen ChatGPT sogar als Ko-Autor gelistet worden sei, was unter Gesundheitsexpertinnen und -experten sowie Grundlagenforschenden als ein Warnsignal gedeutet wurde.8-10

Fazit

Nune et al. diskutieren das Potenzial von ChatGPT und anderen auf künstlicher Intelligenz basierenden Technologien in der Rheumatologie. Die Forschenden benennen verschiedene Anwendungsbereiche von ChatGPT, die der Aufklärung von Patientinnen und Patienten, der Auswertung bildgebender Verfahren und der medizinischen Aus– und Weiterbildung dienen könnten.

Sie weisen jedoch auch auf Bedenken hinsichtlich der Verwendung von ChatGPT in der klinischen Praxis hin. Solange keine Langzeitdaten zur Verfügung stünden, um die Sicherheit und Limitationen der Technologie genauer beurteilen zu können, gelte es Vorsicht walten zu lassen.1

Quellen

  1. Nune A, et al. Rheumatol Int. 2023;10.1007/s00296-023-05340-3.
  2. Gilson, et al. JMIR Med Educ 2023;9:e45312.
  3. Jansz J, et al. Cureus 2023; 15(3):e36302.
  4. Patel SB, Lam K. Lancet Digit. Health 2023;S2589–7500(23):00021–00023.
  5. The Lancet Digit. Health. ChatGPT: friend or foe?. Lancet Digit Health. 2023;5(3):e102.
  6. Advantages, Risks, and Use Cases of Chatbots in Health Care. (2021). unter: https://varfix.ai/blog/advantages-risks-use-cases-chatbots-health-care/ (abgerufen am 16.05.2023).
  7. Verhoeven F, et al. Ann Rheum Dis 2023.
  8. Shen Y, et al. Radiology 2023;307:230163.
  9. Liebrenz M, et al. Lancet Digit. Health 2023;S2589–7500(23):00019–00025.
  10. Solomon DH, et al. Arthritis Rheumatol. 2023.

PP-AU-DE-1738