Künstliche Intelligenz im Gesundheitswesen gezielter einführen

Berlin – Die Einführung von Anwendungen auf Basis von Künstlicher Intelligenz (KI) ist in den meisten Gesundheitssystemen zu sehr produkt- und zu wenig prozessgetrieben. Darüber herrschte heute breite Einigkeit zum Auftakt des „Digital Health Innovation Forums“ des Hasso Plattner Instituts (HPI) in Potsdam.

„Ich denke, es gibt in Europa viele Unternehmen, die ihre Produkte voreilig auf dem gesamten Kontinent skalieren wollen“, erklärte Alexandre Momeni, Partner beim Risikokapitalinvestor General Catalyst. Im Gesundheitswesen sei es jedoch bedeutend wichtiger, in den jeweiligen Strukturen zuerst die entsprechenden Netzwerke und damit das nötige Vertrauen aufzubauen. Das könne mitunter Jahre dauern.

In Systemen mit solidarfinanzierten Krankenversicherungen komme neben Behandelnden und Behandelten zudem noch die Ebene der Kostenträger hinzu, die bei der Einführung neuer Technologien verzögernd wirkten, sagte er. „Wenn man bei einer Krankenversicherung arbeitet, wird man nicht dafür bezahlt, Risiken einzugehen“, stimmte ihm der stellvertretende Vorstandsvorsitzende der AOK Nordost, Marek Rydzewski, zu.

„Wir sind sehr resistent gegenüber Veränderungen“, so Rydzewski weiter. „Bei einer Verbesserung von 95 Prozent konzentrieren wir uns auf die anderen fünf Prozent. Es ist ein Problem der Perspektive.“

Er habe das deutlich gesehen, als er in der Rolle des „Chief Digital Officer“ – dieser ist meist für die digitale Transformation und Strategieentwicklung zuständig – bei der Barmer die Einführung eines Chatbots für Versicherte voranbrachte. Die interne Diskussion habe sich vor allem darum gedreht, welche Konsequenzen falsche Antworten haben könnten, statt darum, wie diese verhindert werden könnten.

Das Problem liege aber nicht nur aufseiten der Kostenträger, sondern vor allem aufseiten der Anbieter digitaler Tools. Diese würde es oft an einem tieferen Verständnis mangeln, wie das System funktioniert. Dort, wo diese eingeführt werden sollen, sei es bei Versicherungen, sei es in Krankenhäusern, würden die Beteiligten hingegen zu oft in Anwendungen statt in Prozessen denken.

Gerade hier könne KI in den kommenden Jahren grundlegende Veränderungen anstoßen. „Unser System steht unter Druck, alle suchen nach Ressourcen“, sagte Rydzewski. „Deshalb müssen wir KI als systemverändernd begreifen. Es geht nicht darum, Profit zu machen, sondern die Versorgung zu verändern.“ So könne KI einer der Schlüssel zur Umsetzung eines Primärversorgungssystems sein.

Auch hier müsse jedoch darauf geachtet werden, dass Anwendungen für bestehende Probleme gefunden würden, nicht umgekehrt, betonte Bjoern Eskofier, Leiter des Instituts für Künstliche Intelligenz der Ludwig-Maximilians-Universität München. „Ich will nicht, dass Tech-Unternehmen von außen das System verändern. Dann würden wir uns auf ein System zubewegen, das ich nicht will.“

Die Einführung KI-basierter Anwendungen sei zudem weiterhin das Problem unzureichender Messverfahren relevant, erklärte Vishnu Ravi von der Stanford School of Medicine. Die meisten Benchmarks seien im Wesentlichen Multiple-Choice-Tests, die die reale klinische Leistung nicht wiedergeben würden.

So habe die wegweisende Studie „NOHARM“ der Stanford-Universität beispielsweise gezeigt, dass ein Large Language Model (LLM) allein oft nicht weniger effektiv arbeitet als in Kombination mit einer menschlichen Ärztin oder einem menschlichen Arzt.

„Daran sieht man, dass es nicht ausreicht, einen Arzt vor ein LLM zu setzen und ihm zu sagen, dass er damit arbeiten soll“, unterstrich er. Vielmehr müsse gezielt die Kompetenz im Umgang mit solchen Anwendungen geschult werden, beispielsweise korrektes Prompten.

Zudem müssten solche Systeme auch so designt werden, dass sie auf die vorhandenen Bedürfnisse passen und Fehlerquellen wie den Automation Bias, also die unkritische Übernahme von KI-generierten Ergebnissen, vermeiden. „Es reicht nicht, ein gutes Modell zu haben. Man muss es auf seine Arbeitsabläufe und Prozesse zuschneiden“, betonte er.

lau