Künstliche Intelligenz in der Medizin sollte nicht von der Stange sein

Leipzig – Dass Systeme anhand von Daten nun selbst Lösungen entwickeln können, ohne dabei von Menschen angeleitet werden zu müssen, ist die größte Verschiebung in der Entstehung von Innovationen seit „unsere Vorfahren gelernt haben, wie man Feuer macht“. Das erklärte Aldo Faisal, Professor für Digital Health an der Universität Bayreuth und am Imperial College in London heute auf dem 129. Deutschen Ärztetag.

Für das Gesundheitswesen ergäben sich durch diese Neuerung ganz neue Möglichkeiten, die Gesundheit von Menschen künftig ganzheitlicher denken zu können, erläuterte der Informatiker und Neurowissenschaftler in seinem Vortrag.

In der Medizin müsse vor allem klar angegeben werden, wofür Künstliche Intelligenz (KI) genutzt werden solle und wofür nicht, verdeutlichte Faisal, der auch Mitglied des Deutschen Ethikrates ist. „KI in der Medizin kann nicht von der Stange sein.“

Sie müsse von Grund auf entwickelt werden, um ein ganz bestimmtes Problem zu lösen. „Mein persönliches Ziel ist es dafür zu sorgen, dass KI-Systeme gebaut werden, die Ihnen helfen, den ungedeckten Bedarf in der Versorgung zu senken“, sagte er vor der Ärzteschaft. Denn aufgrund demografischer und klimatischer Änderungen seien die Bereiche Gesundheit und Pflege massiv unter Druck geraten, so Faisal.

KI werde eine große Rolle dabei spielen, mit den evidenten Zukunftsproblemen der ärztlichen Versorgung umzugehen, aber auch, die Zielstellungen der Weiterentwicklung der Medizin zu erreichen, betonte heute auch Ulrike I. Attenberger, Federführende des Arbeitskreises „Künstliche Intelligenz in der Medizin“ des Wissenschaftlichen Beirats der Bundesärztekammer (BÄK).

Das Beratungsunternehmen Pricewaterhouse Cooper (PwC) prognostiziere einen Fachkräftemangel von 1,8 Millionen Stellen im Gesundheitswesen bis 2035. In dieser Lage sei KI eine zentrale Technologie, um mittels einer Entlastung Zeit für den Patientenkontakt zu erhalten.

Das sei entscheidend, denn auch wenn die technischen Möglichkeiten kontinuierlich wachsen würden, könne eine KI auf absehbare Zeit menschliche Intuition und die Rolle von Empathie im Heilungsprozess nicht ersetzen. Studien würden jedoch zeigen, dass die Zeit, die Ärzte mit Patienten verbringen könnten, seit 1975 kontinuierlich zurückgegangen sei.

„Es scheint, als könnte uns die KI durch das Abnehmen von bürokratischen Tätigkeiten helfen, zurück zum salutogenen Effekt der Arzt-Patienten-Beziehung zu kommen“, erklärte Attenberger. Dafür sei es wichtig, einen deutschen und europäischen Weg zu finden, wie KI in die tägliche Arbeit integriert werden kann.

Schon das Streben nach Präzisionsmedizin, also der Möglichkeit, allen Patienten die individuell bestmögliche Behandlung zukommen zu lassen, müsse eine intrinsische Motivation bieten, sich als Ärztin oder Arzt mit KI auseinanderzusetzen.

Faisal erklärte, es gebe derzeit einen dringenden Aufholbedarf, die Versorgung mithilfe von KI sicherzustellen. Wenn man von KI im Gesundheitswesen spreche, rede man hierzulande immer noch von Digitalisierung. Deutschland sei eines der wenigen Länder in Europa, in dem es noch ein Digitalisierungsministerium gebe, in Großbritannien gebe es schon den KI-Minister, verdeutlichte Faisal.

Bei der Entwicklung entsprechender Systeme müsse man sich angesichts globaler Krisen überlegen, welche Systeme von welchen Herstellern man benutze insbesondere angesichts großer Firmen aus den USA oder China. Deshalb müsse man sich die Frage stellen, ob man es sich leisten könne, diese Systeme nicht vollständig unter Kontrolle haben zu können, betonte Faisal. „Es gibt Lösungen, die zuhause bei uns in Europa gebaut werden.“

KI-Systeme in Primärversorgung, Klinik und Public Health

In seinem Vortrag ging er auf drei Beispiele ein, wie die Gesundheitsversorgung in Zukunft aussehen könnte. Faisal wolle damit aufzeigen, wie man „die Grenze des Vorstellbaren erweitern kann.“

Dabei gebe es drei große Bereiche, darunter Systeme, die im klinischen Bereich in der direkten Patientenversorgung angewendet werden. Zweitens gebe es Systeme, die in der Primärversorgung der Bevölkerung genutzt werden könnten, um die Gesundheit der Bevölkerung zu steigern und zu optimieren sowie Systeme, die im Bereich Public Health angesiedelt sind und in denen Patienten ihre Gesundheit unter Anleitung selbst managen könnten.

Für den Bereich der Primärversorgung könnten Hausärztinnen und Hausärzte künftig dank KI einen direkten Überblick über alle Patienten in der Praxis behalten und besonders gefährdete Personen aktiv kontaktieren. 2019 hätten rund zehn Millionen Patientendaten in London für das Training von KI genutzt werden können, darunter seien auch Hausarztpraxen angeschrieben und entsprechende Primärdaten zusammengeführt worden, berichtete Faisal.

Als erstes habe man mit diesen Daten ein Dashboard für die Hausarztpraxen zur Verfügung gestellt, wo sie sich live etwa das Asthmarisiko der Patienten hätten anzeigen lassen können, verknüpft mit der Angabe in welcher Luftbelastungszone sie wohnen würden. Je nachdem wie die Luftbelastung, beziehungsweise die Lage an befahrenen Straßen ausgesehen habe, hätten sich die Ärzte überlegen können, gefährdete Patienten zu kontaktieren.

Bewegungsdaten erlauben Vorhersage von Krankheitsverläufen

Weiter könnte die Analyse von Bewegungsdaten künftig neue Aufschlüsse über den Verlauf von Krankheiten geben. So gebe es bereits seit zehn Jahren die sogenannten „Living Labs“ in Oberfranken. Hier würden Menschen in Wohnungen leben, in denen ihre Bewegungsprofile in ihrem täglichen Leben gescannt und digitalisiert werden.

„Das erlaubt uns, ganz neue Arten der Diagnosen und Monitoring mit KI umzusetzen.“ So könnten Patienten nicht nur mit dem Durchschnitt anderer Menschen verglichen werden, sondern mit dem eigenen individuellen Verhalten. „Wir konnten mit einer 80-prozentigen Wahrscheinlichkeit vorhersagen, ob sich der Zustand der Patientinnen und Patienten in den nächsten 24 Stunden verschlechtert“, sagte Faisal.

Im klinischen Bereich habe Faisal an einem Projekt in Großbritannien mitgewirkt, in dem Ärzte bei der Behandlung einer Sepsis Therapievorschläge von einem KI-System erhalten hätten. Es gebe eine große Spannbreite bei Verschreibungsmöglichkeiten bei diesen Patienten, so Faisal.

Die KI könne mit Patientendaten lernen, wie eine optimale Verschreibung aussehen könnte. Die Empfehlungen würden aber von Medizinern immer überprüft. Eine integrierte Eye-Tracking-Studie hätte zudem ergeben, dass Ärztinnen und Ärzte selten auf lange Erklärtexte einzelner Vorschläge achten würden, sondern lieber verschiedene Optionen zur Auswahl hätten.

Um den Bereich Public Health zu stärken, könnten etwa KI-Modelle zur Vorhersage von Krankenhausaufenthalten entwickelt werden. In Wales, wo Patientenakten bereits seit 2009 komplett digitalisiert vorliegen, konnte ein entsprechendes Modell entwickelt werden.

Es konnte vorhersagen, welche Patienten in den nächsten drei Monaten etwa aufgrund einer Herzattacke oder Nierenversagen ins Krankenhaus kamen. Bei vier von fünf Patienten lag die KI dabei richtig, berichtete Faisal. Für das Training der KI wurde das Alter, Geschlecht, die Postleitzahl des Wohnortes und der Zeitstempel wann die elektronische Patientenakte (ePA) der Patienten ausgelesen wurde, verwendet.

Zeit der Excel-Tabellen ist vorbei

Weiter könnte KI für Erleichterung im ärztlichen Arbeitsalltag sorgen. So würden Large Language Models (LLM) eine große Chance darstellen, im Arbeitsalltag eine strukturierte Datenbanksuche zu ermöglichen, erklärte Attenberger. „Dann ist die Zeit der Excel-Tabellen vorbei“, sagte sie. Auf Patientenseite wiederum könnten beispielsweise Wearables helfen, selbst aktiv am Gesundheits- und Krankheitsmonitoring teilzunehmen.

Auch würden zahlreiche Studien, unter anderem vergangenes Jahr im New England Journal of Medicine, zeigen, dass KI bei der Genauigkeit der Diagnose bereits heute in den meisten Fachgebieten genauso gut oder sogar besser abschneide als menschliche Ärzte in Weiterbildung.

Insbesondere KI-Modelle, die spezifisch für bestimmte Indikationen oder Fachgebiete trainiert worden seien, könnten eine höhere Genauigkeit erzielen – und zwar nicht nur als ein Assistenzarzt, sondern als Spezialisten einer bestimmten Domäne. „Das stellt uns vor große Herausforderungen“, mahnte sie.

Auch der Automation Bias, also das Phänomen, dass Menschen oft dazu neigten, Ergebnisse aus automatisierter Entscheidungsfindung gegenüber eigenen Erwägungen zu bevorzugen, stelle eine potenzielle Gefahr dar. Ein erfahrener Arzt entdecke Fehler der KI auf Grundlage seines Erfahrungsschatzes, junge Ärzte würden KI-Diagnosen eher blind vertrauen.

Damit KI-Algorithmen eine möglichst hohe Sensitivität bieten könnten, müsse aber auch gezielt eine entsprechende Datengrundlage bereitgestellt werden. „Ohne digitale Daten ist keine KI möglich, wir können Algorithmen nicht auf Papier trainieren.“ Dabei sei nicht nur das Vorliegen der Daten und ihre Qualität entscheidend, sondern auch ihre sektorenübergreifende Interoperabilität. „Die Daten müssen miteinander sprechen“, unterstrich Attenberger.

Vor allem gesunde Menschen zeigen Skepsis

Die größte Herausforderung bei der künftigen KI-Nutzung sei aber der Faktor Mensch, sagte Faisal. Es gebe von gesunden Menschen oftmals eine Art Egoismus, ihre Daten nicht teilen zu wollen, vor allem aus berechtigten Sorgen vor der Verletzung der Privatsphäre. Patientinnen und Patienten seien ihm hingegen noch nie begegnet, die ihre Krankheitsdaten nicht für die Forschung gespendet hätten.

Deshalb müsse man KI-Anwendungen immer auf eine solche Art und Weise bauen, dass sie die Privatsphäre schützen. Dazu müsse man ein bisschen mehr in die Entwicklung investieren. Die von ihm genannten Anwendungen hätten diese Aspekte berücksichtigt, erklärte der Wissenschaftler.

Eine weitere Herausforderung sei, die Medizinregulierung von KI-Produkten so zu gestalten, dass Systeme im Klinikbetrieb nach der Zulassung weiter dazulernen könnten und dieser Vorgang nicht gestoppt werde. Sonst wäre das so, als würde man einem jungen Arzt sagen, er müsse sein Gehirn einfrieren und dürfe nicht weiter lernen, betonte Faisal.

Zudem koste KI im Betrieb sehr viel Energie und Wasser, erklärte Faisal. „Wir gehen davon aus, dass eine Suchanfrage bei ChatGPT in etwa 160 Mal so viel Energie kostet wie eine Suchanfrage bei Google und knapp einen Liter Wasser verbraucht.“

Man gehe davon aus, dass die Energieverbräuche weiter steigen werden. Irland gebe bereits 25 Prozent seines gesamten Energiehaushalts für Datenrechenzentren aus und habe damit seinen Energiehaushalt entsprechend ausgeschöpft. Aus diesen Gründen müsse man KI-Tools mit Bedacht einsetzen und prüfen, wann man KI wirklich nutzen müsse und wann man es nicht brauche, empfiehlt Faisal.

Eine große Chance sieht Faisal in dem geplanten Europäischen Gesundheitsdatenraum (EHDS), der perspektivisch die Gesundheitsdaten von einer halben Milliarde Menschen zusammenbringen könnte. Dies sei so woanders auf der Welt nicht leistbar.

In anderen kleineren Ländern, wie etwa den Vereinigten Arabischen Emiraten, Singapur oder Israel gebe es bereits mit den dortigen Patientendaten „tolle Initiativen“ mit KI. „Das ist nett. Aber mit drei beziehungsweise sieben Millionen Patientendaten können Sie nicht wirklich die nächste Generation an KI bauen“, erklärte Faisal.

Ärzteschaft muss KI aktiv mitgestalten

Die Ärzteschaft tue gut daran, angesichts der Dimensionen des Wandels in der medizinischen Versorgung durch Künstliche Intelligenz ebendiese Thematik aufzunehmen und aktiv mitzugestalten, erklärte Peter Bobbert, Co-Vorsitzender des Ausschusses „Digitalisierung in der Gesundheitsversorgung“ der Bundesärztekammer und Präsident der Ärztekammer Berlin (ÄKB) nach den beiden Vorträgen.

Bobbert verwies auf ein unlängst veröffentlichtes Thesenpapier der BÄK, in dem skizziert wird, mit welchen Entwicklungen und Herausforderungen für Patienten und Ärzte zu rechnen ist. Man wolle so einen „Horizont“ für die kommenden drei bis fünf Jahren aufzeigen.

Klar sei, so Bobbert, dass man eigene Impulse setzen müsse, um in eine handelnde Position zu kommen – noch sei man nicht zu spät. Um bei den kommenden „neuen Formen der Kommerzialisierung“ mitgestalten zu können, brauche es vor allem entsprechende innerärztliche Expertise. Darin liege aus seiner Sicht ein „großer Ansporn“, die ärztliche Weiterbildungsordnung möglichst schnell anzupassen.

cmk/lau/aha