Künstliche Intelligenz (KI) gilt als schnelle Entscheidungshilfe in der Gesundheitsversorgung, einschließlich der Entwicklung und Anwendung von Leitlinienwissen. Im Rahmen der Leitlinienkonferenz der Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften (AWMF) wurde angemahnt, dass KI-Lösungen einer systematischen wissenschaftlichen Evaluierung zu unterwerfen sind – wie jede Innovation in der Medizin.

„Generell gilt für alle KI-Anwendungen, dass sie nachvollziehbar und transparent sein müssen. Sie sind lediglich als Entscheidungshilfen zu verstehen und der Mensch muss die Hoheit behalten“, stellt Prof. Rolf-Detlef Treede, Präsident der AWMF fest.

Es ist wichtig, zwischen regelbasierten und generativen KI-Lösungen zu unterscheiden. „Regelbasierte KI birgt das Potenzial, die Entwicklung von Leitlinien zu beschleunigen – da deren Entwicklung schon relativ weit und leicht zu überwachen ist – beispielsweise zur Unterstützung von Literatursynthesen. Anders verhält es sich bei Generativer KI, die aktuell regelrecht gehypt wird als Möglichkeit, klinisch Tätigen und Laien schnell Antworten auf versorgungsrelevante Fragestellungen zu liefern. Hier muss die Medizinische Wissenschaft das Steuer übernehmen“, erklärt Prof. Ina Kopp, Leiterin des AWMF-Instituts für Medizinisches Wissensmanagement (AWMF-IMWi).

Als Anwendungsfall wurde ein Chat Bot für Leitlinien vorgestellt. Mit diesem Werkzeug sollen Leitlinieninhalte künftig schneller von medizinischem Fachpersonal, aber auch von Patientinnen und Patienten abgerufen werden können. „Solche KI-Modelle sind systematischer Forschung, analog dem Zulassungsverfahren von neuen Arzneimitteln zu unterziehen. Es besteht Einiges an Forschungsbedarf, bis KI-Anwendungen so vertrauenswürdig sind, dass sie als Navigationshilfe eingesetzt werden können“, sagt Prof. Kopp. „Wir befinden uns aktuell erst in der präklinischen Phase 2. Künftige Forschung zu KI darf nicht nur von Effizienzgedanken getrieben sein, sondern muss auch potenzielle Auswirkungen auf Entscheidungsprozesse im Auge haben. Dies gilt insbesondere für ethische, kognitive und gesamtgesellschaftliche Auswirkungen“, ergänzt Prof. Kopp.

„Gemeinsam mit den Fachgesellschaften in der AWMF werden wir die Forschung zu KI und deren Evaluation im Leitlinienbereich ausweiten – immer verbunden mit einem anwendungsbasierten Ansatz“, erklärt Prof. Vera von Dossow, Leiterin der Kommission Leitlinien der AWMF.

Wissenschaftliche Ansprechpartner:

Prof. Dr. Ina Kopp
Prof. Dr. Vera von Dossow
Prof Dr. Rolf-Detlef Treede

Zur Pressemitteilung: https://www.awmf.org/service/awmf-aktuell/potenzial-von-ki-fuer-leitlinien-nutzen