Künstliche Intelligenz: Patienten im Fokus

Eine aktuelle wissenschaftliche Studie zeigt, wie Patientenvertretungen die sich bietenden Chancen, aber auch die Herausforderungen beim Einsatz von KI-Systemen bewerten.

Foto: Production Perig/stock.adobe.com

Gerade durch die aktuelle Coronakrise zeigen sich die vielen Chancen eines stärker digitalisierten Gesundheitswesens – nicht zuletzt ließe sich so die Entwicklung geeigneter Medikamente im Kampf gegen die Pandemie beschleunigen. So hat das Bundeskabinett Anfang April einen Gesetzentwurf zur elektronischen Patientenakte sowie zum Schutz von Patientendaten beschlossen. Solche Maßnahmen sind wichtig, um die Voraussetzung für den Einsatz von künstlicher Intelligenz (KI) zu schaffen, welcher gerade in der Medizin große Potenziale verspricht.

Die Nutzung von patientenindividuellen medizinischen Daten und KI-Assistenzsystemen kann künftig bei der Prävention, frühzeitigen Diagnosen sowie bei individualisierten Therapien zu besseren Behandlungsergebnissen führen, die Entdeckung neuer medizinischer Zusammenhänge und innovativer Präventionsansätze ermöglichen und somit unsere Gesundheitsfürsorge verbessern (1, 2, 3, 4, 5). Lernende Systeme basieren grundsätzlich auf KI-Methoden und Softwaresystemen, die abstrakt beschriebene Aufgaben auf Basis von Daten, die ihnen als Lerngrundlage dienen, durch maschinelles Lernen selbstständig erledigen, ohne dass jeder Schritt spezifisch programmiert wird (6).

Hemmschwellen identifizieren

Der Einsatz solcher Systeme kann medizinisches und pflegerisches Personal entlasten und Patientinnen und Patienten im Alltag nachhaltig unterstützen (4). Gleichzeitig ergeben sich daraus aber auch hohe Anforderungen an die IT-Sicherheit der Systeme (7), um Vertrauen bei medizinischem und pflegerischem Personal sowie bei Patienten zu schaffen (2, 8). Dafür ist es notwendig, Hemmschwellen von Betroffenen im Umgang mit KI-basierten Assistenzsystemen zu erkennen, ihre Forderungen ernst zu nehmen und künftig bereits während der Entwicklung zu berücksichtigen (9). Diese Perspektive ist allerdings bisher bei der Analyse von Potenzialen und Herausforderungen der Digitalisierung des Gesundheitswesens und dem Einsatz von KI-Systemen nur teilweise berücksichtigt worden – meist liegt der Fokus auf technischen Potenzialen und der Perspektive von Ärztinnen und Ärzten (10, 11). Im Hinblick auf die Qualitätssicherung und -verbesserung sowie die Zufriedenheit mit der medizinischen Betreuung ist die Perspektive Betroffener aber von größter Relevanz (12). Patienten müssen so in die unterschiedlichen Prozesse einbezogen werden (13), dass Behandlungsabläufe optimal auf ihre Bedürfnisse zugeschnitten sind und das Wohl der Betroffenen im Mittelpunkt technischer Errungenschaften steht.

Ziel der vorliegenden Studie ist es, die Chancen und Herausforderungen beim Einsatz von KI-Systemen im Gesundheitswesen aus Sicht von Patientenvertretern zu identifizieren. Die Arbeitsgruppe „Gesundheit, Medizintechnik, Pflege“ der Plattform Lernende Systeme hat dazu gemeinsam mit dem Deutschen Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) und der Charité Berlin eine qualitative Expertenbefragung von Patientenvertretern in Deutschland durchgeführt.

Überblick zur Methodik

Die Wahrnehmungen der Patientenvertreter wurde – angelegt an die Methode der Delphi-Befragung (14) – mithilfe eines mehrstufigen, qualitativen Befragungsverfahren erhoben. Dieses Studiendesign wurde gewählt, da diese Akteursperspektive in Bezug auf die Implementierung von KI in der Medizin bisher kaum erforscht wurde (9). So können Experten die Bedarfe der jeweiligen Patienten schildern und fundierte Aussagen über notwendige Handlungsoptionen und zur zukünftigen Entwicklungen geben (14).

Die Auswahl der Patientenvertreter erfolgte unter Berücksichtigung möglichst verschiedener physischer Krankheitsbilder. Dazu wurde eine offene Anfrage zur Teilnahme über den Gemeinsamen Bundesausschuss (G-BA) versendet. Zudem wurden Patientenvertreter kontaktiert, die sich bereits mit dem Thema Digitalisierung oder KI beschäftigt hatten. In einem ersten Schritt wurden zwölf Patientenvertreter zunächst mithilfe eines Fragebogens einzeln zu bestimmten Themen der Digitalisierung und KI-basierten Assistenzsystemen im Gesundheitswesen befragt.

Ziel war es, den Kenntnisstand und das Stimmungsbild einzuschätzen. Im Rahmen einer darauf aufbauenden zweiten Teilstudie fand im Herbst 2019 – organisiert durch die Plattform Lernende Systeme und das DFKI – ein Round-Table-Event statt, bei dem zehn der zwölf Patientenvertreter aus der Vorabumfrage sowie sechs weitere im Rahmen einer qualitativen Gruppendiskussion auf Basis der Ergebnisse der Vorabumfrage Standpunkte im Format eines World Cafés (15) interaktiv diskutieren und gemeinsam Priorisierungen von Themenkomplexen vornehmen konnten. Im Zuge der Auswertung wurden die qualitativ erhobenen Debattenbeiträge anschließend verschiedenen Oberkategorien und Unterdimensionen zugeordnet – das Thema Datenschutz wurde aufgrund der zentralen Rolle gesondert behandelt. Diese Schritte sind Teil des grundlegenden Verfahrens qualitativer Analysen (16). Daraus konnten Übereinstimmungen und Widersprüche abgeleitet werden, was Ziel der Delphi-Methode ist (14).

Ergebnisse der Studie

Von den insgesamt 48 kontaktierten Patientenvertretern haben zwölf an der Vorabumfrage teilgenommen. Die erste Teilstudie lässt auf eine ambivalente Bewertung von KI-Technologien im Gesundheitswesen durch Patientenvertreter schließen – so werden dem Einsatz von KI große Potenziale, aber auch einige Risiken attestiert. Gleichzeitig variiert der Kenntnisstand zu KI-Technologien zwischen den Patientenvertretern und deren Nutzung steht noch am Anfang. Etwas mehr als die Hälfte der befragten Patientenvertreter nutzt erst teilweise digitale Gesundheits-Applikationen und elf der zwölf befragten Verbände haben sich nicht oder erst teilweise mit KI auseinandergesetzt. Acht von zwölf Patientenvertretern konnten die Frage nach der Sicherheit KI-basierter Assistenzsysteme in der Medizin nicht beantworten, was auf weiteren Aufklärungsbedarf schließen lässt. Darüber hinaus wünschen sich neun von zwölf Patientenvertretern mehr methodische Transparenz bei KI-basierten Technologien und Anwendungen. Daher sollte nach Meinung der Patientenvertreter der Kompetenzaufbau zu KI-Technologien stärker vorangetrieben werden.

Zu Beginn der interaktiven Diskussion der 16 Patientenvertreter im Rahmen der zweiten Teilstudie wurden die Themengebiete zu Chancen und Wünschen von KI im Gesundheitswesen als am wichtigsten eingestuft (Grafik). Diese Themen erhielten mehr als die Hälfte aller möglichen Priorisierungspunkte, während Risiken von KI im Gesundheitswesen und datenschutzrechtlichen Fragen etwa gleich häufig und insgesamt weniger oft priorisiert wurden.

Grafik

Chancengetriebenes Denken

Bild vergrößern Alle Bilder

Dieses Stimmungsbild zeigt, dass die Patientenvertreter den möglichen Potenzialen neuer Technologien grundsätzlich aufgeschlossen und positiv gegenüberstehen. Aus der zweiten, interaktiven Teilstudie lassen sich Potenziale für den Einsatz von KI in der Medizin ableiten, die in zwei Bereiche untergliedert werden können: So können KI-Assistenzsysteme den Patientenvertretern zufolge die Behandlungsqualität verbessern und die Souveränität von Betroffenen stärken (Tabelle 1).

Tabelle 1

Priorisierungen der Patientenvertretungen: Potenziale von KI in der Medizin

Bild vergrößern Alle Bilder

Als die vielversprechendsten Vorteile von KI-Assistenzsystemen in der Medizin sehen die Patientenvertreter die personalisierte Behandlung und Diagnosefindung, um einer Einheitsbehandlung und assoziierten Nebenwirkungen und Therapieversagen entgegenzuwirken. Die Dimensionen, die hier als wichtig eingeschätzt wurden, sind eine optimierte Therapiewahl und Timing, die Früherkennung von Krankheitsverschlechterungen und neue Optionen für eine ganzheitlichere Therapie. Auch die neuen Möglichkeiten im Rahmen der Diagnostik, Krankheiten frühzeitiger und umfassender zu erkennen, sind ein wichtiges Anliegen und eines der am häufigsten priorisierten Unterthemen. Ebenso häufig wurde der Wunsch nach einer vernetzten Behandlung mit sektorenübergreifenden Prozessen als wichtig eingestuft. Die Prozessoptimierung im Gesundheitswesen durch den Einsatz von lernenden Systemen, um transparentere und effizientere Abläufe zu ermöglichen, sind weitere wichtige Aspekte.

So könnte etwa der bürokratische Aufwand für das Personal durch eine automatisierte Pflegedokumentation (etwa mittels Spracherkennung) verringert werden. Außerdem könnten Lernende Systeme eine bessere Umsetzung der Leitlinien in der Regelversorgung fördern, zum Beispiel durch Entscheidungsunterstützungssysteme. Ebenso wichtig ist den Patientenvertretern ein optimierter Zugang zu Wissen (Wissensdiffusion) und die Gewinnung neuer wissenschaftlicher Erkenntnisse – etwa durch die KI-assistierte Auswertung von Studiendaten und gesundheitsrelevanten Daten (zum Beispiel Genominformationen). Als etwas weniger wichtig wurde die Möglichkeit eingestuft, der Unterversorgung mit neuen Behandlungszugängen (zum Beispiel Telemedizin oder KI-basierte Applikationen) entgegenzuwirken.

Patientenrechte stärken

Der Einsatz von KI-basierten Medizinprodukten kann parallel auch zur Stärkung der Patientenrechte beitragen. Dabei ist den Patientenvertretern zufolge der einfache Zugriff von Patienten auf die elektronische Patientenakte von besonders hoher Bedeutung. Hier wurden auch neue Möglichkeiten der Inklusion und sozialen Teilhabe sowie die dadurch gestärkte Autonomie durch KI-Technologien als wichtig eingestuft – als Beispiel wurden Exoskelette genannt, die die Wiedererlangung motorischer Fähigkeiten unterstützen (17, 18).

Wichtig erscheint den Patientenvertretern zudem die Unterstützung von Betroffenen im Alltag, etwa in Form von neuen Möglichkeiten der Gesunderhaltung (zum Beispiel KI-basierte Applikationen).

Sorge um Behandlungsfehler

Die Angst vor fehlerhaften oder diskriminierenden Therapieentscheidung des medizinischen oder pflegerischen Personals, die auf Basis von KI-Technologien getroffen werden, nannten die Patientenvertreter als eine der größten Sorgen (Tabelle 2). Dabei wird vor allem befürchtet, dass falsche oder für die Betroffenen nachteilige Entscheidungen getroffen werden: Entweder durch fehlerhafte Interpretationen der IT-Ergebnisse oder durch mangelhafte Qualität der Datensätze oder Algorithmen – etwa wegen unzureichender Nachvollziehbarkeit der Algorithmen-Entscheidung oder dem Training mit irrelevanten Datenpunkten. Dazu ist die kritische Analyse der Datensätze hinsichtlich Zweck, Qualität und Größe notwendig, allerdings mangelt es hier an allgemeingültigen Metriken und anerkannten Standards.

Tabelle 2

Priorisierungen der Patientenvertretungen: Herausforderungen von KI in der Medizin

Bild vergrößern Alle Bilder

Besonders kritisch sehen die Patientenvertreter auch die möglichen Risiken für die Versorgungsqualität durch den Einsatz von KI-Technologien. Dabei besteht die größte Sorge darin, dass die menschliche Interaktion durch die standardisierte Behandlung eingeschränkt wird. Ebenso werden die Gefahren der fehlenden Patientenbeteiligung bei der Entwicklung der KI-Systeme sowie die eingeschränkte Mitentscheidung von Patienten befürchtet. Als relevant werden auch ethische Fragestellungen zu den gesellschaftlichen Folgen ungesunder Selbstoptimierung bewertet, wozu die Festlegung eines ethischen Rahmens gefordert wird.

Die Entstehung neuer Abhängigkeiten durch KI-Systeme, etwa durch Zugang und Zugriff zu Daten und Software, ist eine weitere Sorge der Patientenvertreter. In dem Zusammenhang wurde auch vor der Gefahr gewarnt, dass zu strenge Regulationen innovationshemmend wirken und etwa die Entstehung von Start-ups verhindern könnten.

Sorge um Datensicherheit

Die größte Gefahr beim Einsatz von KI im Gesundheitswesen sehen die Vertreter der verschiedenen Verbände in der fehlenden Datensicherheit und in den Folgeproblemen von Datenmissbrauch und Cyberkriminalität (Tabelle 3). Deshalb wünschen sie sich eine stabile IT-Sicherheit, um dies zu verhindern, sowie Sanktionsmöglichkeiten, um gegen Datenmissbrauch vorgehen zu können.

Tabelle 3

Priorisierungen der Patientenvertretungen: Wichtige Datenschutzbestimmungen

Bild vergrößern Alle Bilder

Die Gesundheitsdaten sind elementar, um KI-gestützte Assistenzsysteme zu entwickeln und nutzbar zu machen. Ein umsichtiger Datenschutz ist daher für die Patientenvertreter eine notwendige Voraussetzung, um die KI-gestützte Versorgung zu stärken und die Datenspender zu schützen. Den Patientenvertretern ist hierbei auch die informationelle Selbstbestimmung wichtig. Besonders hoch priorisierten sie die Frage, wer die Daten besitzen und nutzen darf. Hier wünschen sie sich Vorgaben zur Datenspeicherung (zum Beispiel Vertraulichkeit, Verfügbarkeit, Rechtsverbindlichkeit, Zugriffsrechte). Ansonsten wird etwa eine Datensammlung ohne Einwilligung befürchtet oder dass das Recht auf Vergessen nicht mehr gewährleistet ist. Zudem sollte eine Anlaufstelle für Rechtsbeistand geschaffen werden, damit Betroffene selbstbestimmt ihre Rechte einfordern können.

Diskussion und Ausblick

Die Studie zielte als eine der ersten im deutschsprachigen Raum darauf ab, Chancen und Herausforderungen von KI-Assistenzsystemen in der Medizin aus Sicht von Patientenvertretern zu erheben. Die Ergebnisse einer mehrstufigen, qualitativen Befragung und Gruppendiskussion mit Patientenvertretern zeigt, dass sie die Vorteile einer personalisierten Behandlung mithilfe von KI-Systemen weg von der Standardtherapie am wichtigsten einschätzen – und sie damit den möglichen Potenzialen neuer KI-Technologien grundsätzlich aufgeschlossen gegenüberstehen. Zu den wichtigsten Potenzialen zählen für die Patientenvertreter eine stärker vernetzte Behandlung, eine bessere Diagnostik und der Zugriff der Patienten auf die elektronische Patientenakte. Auch die neuen Möglichkeiten der Teilhabe und Inklusion bei der Entwicklung und Nutzung von lernenden Systemen in der Medizin sind wichtig.

Gleichzeitig legen die Ergebnisse auch offen, dass die Patientenvertreter große Bedenken haben, dass die Daten unzureichend geschützt oder missbraucht werden (7). Bedenken bestehen auch hinsichtlich der informationellen Selbstbestimmung, dabei werden insbesondere transparente Zugriffsrechte und Besitzverhältnisse der Gesundheitsdaten als wichtig bewertet. Dazu müssten die Schulung und Aufklärung gerade älterer Patienten gefördert sowie ein unabhängiger Rechtsbeistand zugesichert werden, um diesen den selbstbestimmten Umgang mit ihren Daten zu ermöglichen. Auch die Sorge, dass fehlerhafte und diskriminierende Entscheidungen auf Basis von KI-Systemen getroffen werden, ist groß. Vorrangig wird dabei das Gefahrenpotenzial in mangelhaften Datensätzen und Algorithmen gesehen. Ebenso sorgen sich die Patientenvertreter, dass die menschliche Interaktion eingeschränkt wird und dass KI-Technologien ohne ausreichende Patientenbeteiligung entwickelt werden. In anderen Ländern, etwa Großbritannien, werden Betroffene durch rechtliche Regulierungen hierbei bereits stärker einbezogen (19, 20).

Das methodische Vorgehen der vorliegenden Studie sollte das Wissen der Patientenvertreter für die Bedarfe, Sorgen und Wünsche verschiedener Patientengruppen bündeln, dennoch bestehen hinsichtlich des Forschungsdesigns einige Limitationen. So könnten – bedingt durch das gewählte Vorgehen – Ansichten durch das Phänomen der sozialen Erwünschtheit oder durch mögliche Effekte, die aus dem Ablauf der Gruppendiskussion resultieren, unter- oder überrepräsentiert sein (21, 14). Diesem Problem wurde begegnet, indem eine möglichst diverse Auswahl an Patientenvertretern eingeladen wurde. Die niedrige Beteiligungsrate an der Studie mag auch mit der Unsicherheit bei den Patientenvertretungen im Umgang mit KI verknüpft sein, die sich auch in der Vorabfrage offenbarte. Viele Betroffenenverbände beginnen erst, sich mit diesem Thema auseinanderzusetzen.

Es kann auch nicht ausgeschlossen werden, dass Patientenvertreter, die der Digitalisierung des Gesundheitswesens und/oder dem Einsatz von KI in der Medizin ablehnend gegenüberstehen, nicht an der Studie teilgenommen haben und ihr Standpunkt daher nicht erfasst werden konnte. Weiterhin muss kritisch reflektiert werden, dass durch das Studiendesign keine generalisierbaren Erkenntnisse generiert werden können, wie dies etwa durch statistisch-induktive Verfahren möglich wäre (14). Trotzdem stellt die Studie insgesamt einen validen Ansatzpunkt für die weitere Erforschung der Evaluierung von KI in der Medizin durch Betroffene dar. Nur die konsequente Berücksichtigung von Betroffenen wird eine nachhaltige Einführung digitaler und KI-basierter Technologien in der Medizin erlauben und den Nutzen dieser neuen Methoden steigern.

Das qualitative Studiendesign lieferte hierzu wichtige Erkenntnisse, welche Handlungsoptionen und politisch-regulatorische Gestaltungserfordernisse aus Sicht von Betroffenen für die weitere Implementierung von KI im Gesundheitswesen und dessen Akzeptanz notwendig sind. Die Potenziale und Grenzen von KI-Systemen in der Medizin sollten öffentlich kommuniziert und politisch diskutiert werden, um die Wahrnehmung der gesellschaftlichen Relevanz zu stärken und die Akzeptanz weiter zu erhöhen (5, 22).

Aufklärungsbedarfe beachten

Die Ergebnisse des Austauschs mit den Vertretern verschiedener Betroffenengruppen stellen hier einen wichtigen Beitrag zur Förderung eines breit angelegten öffentlichen Dialogs dar und legen offen, dass noch weiterer Aufklärungsbedarf über die Funktionsweise und Anwendungsmöglichkeiten von KI-basierten Assistenzsystemen besteht. Weitere Folgetermine wurden von den Patientenvertreterinnen und -vertretern gewünscht, sodass die hier vorgestellte Studie einen möglichen Auftakt für einen solchen Dialogprozess zum Thema KI in der Medizin darstellt.

• Zitierweise dieses Beitrags:
  Dtsch Arztebl 2020; 117 (49): A 2407–14

Anschrift der Verfasser:
Prof. Dr. med. Klemens Budde,
Charité Universitätsmedizin, Medizinische Klinik mit Schwerpunkt Nephrologie,
Charitéplatz 1, 10117 Berlin,
klemens.budde@charite.de

Literatur im Internet:
www.aerzteblatt.de/lit4920
oder über QR-Code.