AWMF für systematische Evaluierung von Ergebnissen künstlicher Intelligenz

Düsseldorf – Eine kritischere Grundhaltung gegenüber der Anwendung von künstlicher Intelligenz (KI) regt die Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften (AWMF) an.

„Generell gilt für alle KI-Anwendungen, dass sie nachvollziehbar und transparent sein müssen. Sie sind lediglich als Entscheidungshilfen zu verstehen und der Mensch muss die Hoheit behalten“, sagte Rolf-Detlef Treede, Präsident der AWMF, im Rahmen der Leitlinienkonferenz seiner Organisation.

Als Anwendungsfall wurde auf der Konferenz ein Chatbot für Leitlinien vorgestellt. Mit diesem Werkzeug sollen Leitlinieninhalte künftig schneller von medizinischem Fachpersonal, aber auch von Patienten abgerufen werden können.

„Solche KI-Modelle sind systematischer Forschung, analog dem Zulassungsverfahren von neuen Arzneimitteln, zu unterziehen. Es besteht Einiges an Forschungsbedarf, bis KI-Anwendungen so vertrauenswürdig sind, dass sie als Navigationshilfe eingesetzt werden können“, sagte Ina Kopp, Leiterin des AWMF-Instituts für Medizinisches Wissensmanagement.

Ihrer Einschätzung nach befindet sich die Forschung in der präklinischen Phase 2. „Künftige Forschung zu KI darf nicht nur von Effizienzgedanken getrieben sein, sondern muss auch potenzielle Auswirkungen auf Entschei­dungs­prozesse im Auge haben. Dies gilt insbesondere für ethische, kognitive und gesamtgesellschaftliche Aus­wirkungen“, ergänzte sie.

Vera von Dossow, Leiterin der Kommission Leitlinien der AWMF, kündigte daher an, gemeinsam mit den Fachge­sellschaften die Forschung zu KI und deren Evaluation im Leitlinienbereich auszuweiten „ – immer verbunden mit einem anwendungsbasierten Ansatz“, betonte sie.

hil