Fachgesellschaften für Qualitätssicherung bei KI-Anwendungen mit medizinischen Inhalten

Berlin – Medizinische Aussagen von Systemen Künstlicher Intelligenz (KI) erfordern eine Qualitätssicherung. Digitale medizinische Leitlinien sind dazu unverzichtbar. Das betont die Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften (AWMF) anlässlich des „World Evidence-Based Healthcare Day“ (EBHC).

Dieser im Jahr 2020 eingeführte Tag soll das Bewusstsein für eine evidenzbasierte Versorgung und fundierte Entscheidungen im Gesundheitswesen stärken. Träger sind verschiedene globale Organisationen, unter anderem die Cochrane Collaboration.

„Für eine evidenzbasierte digitale Gesundheitsversorgung spielen Leitlinien eine zentrale Rolle. Eine digitale Transformation der Medizin erfordert die Integration von hochwertigem, vertrauenswürdigem Leitlinienwissen in alle digitalen Anwendungen“, betonte Vera von Dossow, Vorsitzende der Leitlinienkommission der AWMF.

Die AWMF habe dafür bereits 2024 das Projekt Dissolve-E initiiert. Ziel ist es, das AWMF-Leitlinienregister in eine digitale, strukturierte Wissensbasis zu überführen, die künftig eine optimale Verfügbarkeit und Integration von Leitlinienwissen in digitale Anwendungen ermöglichen soll.

„Die Menschen wünschen sich konkrete Antworten auf gesundheitsbezogene Fragestellungen und nutzen dazu schon heute KI-Anwendungen“, erläuterte Ina Kopp, Leiterin des AWMF-Instituts für Medizinisches Wissensmanagement.

Je strukturierter die medizinischen Informationen bereitgestellt würden, desto wahrscheinlicher sei es, dass KI diese korrekt wiedergebe und nicht fälschlich interpretiere, betonte sie. „Daher benötigen wir digitale, maschinenlesbare Leitlinieninhalte in einem interoperablen Format“, so Kopp.

Eine Arbeitsgruppe der Stanford University hatte vor wenigen Tagen in der Fachzeitschrift Nature Health darauf hingewiesen, dass sich Schäden durch KI-generierte Gesundheitsinformationen bislang kaum erfassen und untersuchen ließen.

Es bleibe bis auf einzelne Meldungen unklar, was eine KI medizinischen Laien auf ihre Fragen zu Medizin und Gesundheit antworte. Die Wissenschaftlerinnen und Wissenschaftler fordern mehr Transparenz, unabhängige Kontrollen und klare Haftungsregeln (2026; DOI: 10.1038/s44360-026-00206-x).

hil