Leopoldina-Gruppe: Dringend Weichen stellen für agentische KI im Gesundheitswesen

Berlin – Sie liefert nicht mehr nur eine Entscheidungsbasis, sondern kann sogar proaktiv handeln: Sogenannte agentische Künstliche Intelligenz (KI) dürfte die medizinische Versorgung binnen kurzer Zeit stark verändern.

Die Integration derartiger Systeme sei „kein fernes Zukunftsszenario“, sondern zeichne sich bereits jetzt ab, heißt es in einer Stellungnahme, die die Fokusgruppe Medizin der Nationalen Akademie der Wissenschaften Leopoldina heute vorgestellt hat.

Die Fachleute appellieren darin an die Politik, die nötigen Voraussetzungen für den Einsatz der Technologie zu schaffen, etwa mit Förderstrategien und einem klar definierten rechtlichen und ethischen Rahmen. Es bestünden große Potenziale für das Gesundheitswesen, gebe aber auch Risiken.

„Agentische KI hat das Potenzial, das Gesundheitswesen grundlegend zu verändern, indem sie neue Möglichkeiten für Ursachenforschung, Diagnostik, Therapie und Versorgung eröffnet“, schreibt die Fokusgruppe. Die Einsatzmöglichkeiten werden als sehr umfassend beschrieben, beispielsweise auch als digitaler Co-Pilot für Menschen mit chronischen Erkrankungen.

Alle Bereiche medizinischer Einrichtungen könnten aus Sicht der Verfasser durch die Systeme verändert werden. Durch eine Vernetzung und Abstimmung via KI sind den Fachleuten zufolge „erhebliche Effizienzgewinne“ möglich, die Kosten im Gesundheitssystem einsparen könnten – ohne Leistungsbeschränkungen und bei gleichzeitiger Verbesserung der Versorgungsqualität, wie es heißt.

Auf Nachfrage des Deutschen Ärzteblattes hieß es, dass zwar auch der KI-Einsatz Kosten verursache, es sei aber durch die Optimierungen auf Ebene des gesamten Systems – von der Administration bis hin zu Prävention auf Patientenseite – von enormem Einsparpotenzial auszugehen.

Der Vorstandsvorsitzende der Universitätsklinik Charité in Berlin, Heyo Kroemer, unterstrich als einer der Autoren die Bedeutung dieser Technologie auch mit Blick auf den demografischen Wandel. Dessen Einfluss auf das Gesundheitssystem werde noch immer unterschätzt, sagte er. Dabei gingen innerhalb von zehn Jahren rund 30 Prozent der Arbeitskräfte verloren, weil sie in den Ruhestand gehen würden. Ersatz fehle.

Gleichzeitig bedeute die alternde Bevölkerung einen Zuwachs an Patientinnen und Patienten. „Das heißt, wir brauchen Technologien, die uns in die Lage versetzen, letztendlich eine höhere Leistung zu erbringen mit einer geringeren vorhandenen Humanressource.“ Dadurch würden immerhin materielle Ressourcen für den KI-Einsatz frei.

Die Einführung von KI und agentischer KI im Gesundheitssystem sei daher aus seiner Sicht für Deutschland unverzichtbar, wenn das System auf dem derzeitigen Stand gehalten werden solle. Trotz der wachsenden technischen Möglichkeiten müsse die Entscheidungsfindung aber immer von Ärztinnen und Ärzten freigegeben und kontrolliert werden, betonte Kroemer.

Bei allen Hoffnungen: Mögliche Risiken der Technologie müssten frühzeitig angegangen werden, mahnen die Autorinnen und Autoren. Es müsse geklärt werden, wie die Verantwortung zugeordnet wird und wie gewährleistet werden kann, dass die Kontrolle über medizinische Prozesse beim Menschen bleibe.

Gefahren etwa bei Verantwortlichkeit, Datenschutz und Cyberangriffen

Die Gruppe sieht zudem Datenschutzrisiken im Zusammenhang mit der Verarbeitung und Verknüpfung großer Datenmengen. Statt wie bisher Datenschutz über den Schutz der Gesundheit zu stellen, gelte es dennoch, künftig zu einer angemessenen Balance zwischen Datenschutz und Versorgungsgerechtigkeit zu kommen, heißt es im Papier.

Neuartige Sicherheitskonzepte würden auch vor dem Hintergrund der Gefahr von Cyberangriffen benötigt: Wenn (semi-) autonome KI-Systeme eigenständig auf klinische Daten zugreifen, Entscheidungen treffen und Handlungen ausführen, vergrößere dies die Angriffsfläche erheblich, mahnt die Gruppe. Dies könne auch die Patientensicherheit unmittelbar gefährden.

Mit Blick auf das Fachpersonal im System wird auch die Gefahr eines Verlusts von Fähigkeiten („Deskilling“) durch vollständige Verlagerung von Aufgaben an die KI gesehen.

Unabhängiger von US-Tech-Giganten werden

Die Fachleute raten nun dazu, auf verschiedenen Ebenen Voraussetzungen für den Einsatz solcher Systeme zu schaffen. Allen voran nennen sie das Stärken der technologischen Souveränität in Anbetracht der bisherigen US-amerikanischen Dominanz auf diesem Markt. Es müssten europäische Systeme entwickelt werden, dazu könne Deutschland einen erheblichen Beitrag leisten, so Kroemer.

Hinzu kommt: Zu neueren KI-Gesundheitstools von US-amerikanischen Firmen wie „ChatGPT Health“ hat man aus Europa keinen Zugang – dies habe regulatorische Gründe, hänge eventuell aber auch mit aus der Politik kommenden Restriktionen zusammen, führte Daniel Rückert aus, Professor für Artificial Intelligence in Healthcare and Medicine an der TU München und Mitautor der Stellungnahme.

Aus Sicht der Gruppe sollten hierzulande regionale Kompetenzzentren entwickelt werden, die die Expertise aus Medizin, Informatik und Datenwissenschaft bündeln und als Schnittstellen wirken, um KI-Lösungen zu entwickeln und in die Anwendung zu bringen. Nötig seien strategische Investitionen sowie eine nachhaltige Förderung von Start-ups und Forschungseinrichtungen.

Entscheidend sei ein innovationsfreundliches regulatorisches Umfeld. Bislang seien uneinheitliche Datenschutzpraktiken und fragmentierte Regulierungsstrukturen auf Länder-, Bundes- und EU-Ebene ein zentrales Hemmnis, so die Gruppe. Regulatorische Rahmenbedingungen müssten stärker vereinheitlicht und vereinfacht werden.

Wichtig sei, dass die Kommunikation in agentischen KI-Systemen durch LLMs in natürlicher Sprache erfolge und der Prozess so für den Menschen versteh- und kontrollierbar bleibe, sagte Rückert. Generell verlaufe die Entwicklung auf diesem Feld in rasantem Tempo. Die Digitalisierung im deutschen Gesundheitswesen müsse fortschreiten, da KI ohne digitale Datenbasis nicht nutzbar sei.

Wie wichtig wird ärztliche Expertise noch sein?

Davon, dass KI in Zukunft Ärztinnen und Ärzte ersetzen könnte, gehen die drei Autoren nicht aus. Es sei aber davon auszugehen, dass Ärzte, die die Technologie einsetzen, „deutlich produktiver, deutlich auch akkurater in ihren Diagnosen und Therapien sein werden“ als Ärzte, die ohne sie arbeiteten, so Rückert.

Klauschen ergänzte, dass KI womöglich in Zukunft bei einfachen, gut durch Trainingsdaten unterlegte Diagnosen in der Pathologie oder Radiologie vollständig ärztliche Arbeit ersetzen könnte. In Anbetracht der künftig reduzierten Ärztezahl sei das als Vorteil zu sehen: „Dass wir Zeit haben, uns auf die komplexen Fälle zu konzentrieren.“

Kroemer gab ein Beispiel aus den USA: Die dortige Mayo Clinic wolle binnen eines Jahres 1.000 agentische KI-Systeme etablieren. Das mache deutlich: Es könnte möglicherweise zu „nicht unerheblichen Verschiebungen der ärztlichen Aktivitäten“ kommen, zum Beispiel mehr Patientenkontakt statt Administration.

Als einen der Hauptfortschritte durch die Technologie nannte er, dass statt „Fünf-Minuten-Interaktionen“ zwischen Arzt und Patient künftig dank KI eine kontinuierliche Begleitung durch das Gesundheitssystem möglich werde. Dies sei auch ideal für präventive Maßnahmen.

ggr