Ärztetagsbeschluss: Keine automatisierte Entscheidung durch Künstliche Intelligenz

Leipzig – Beim Einsatz von Künstlicher Intelligenz (KI) in der Gesundheitsversorgung darf die Grenze zwischen Entscheidungsassistenz und automatisierter Entscheidung nicht überschritten werden. Dies betonte heute der 129. Deutsche Ärztetag.

Künstliche Intelligenz sei „längst Realität in der medizinischen Praxis“, sagte dazu Klaus Reinhardt, Präsident der Bundesärztekammer (BÄK). Die Nutzung von KI-Anwendungen biete viele Chancen, werfe aber auch Fragen auf – etwa zur Datensicherheit oder zu ethischen Problemstellungen.

In einer mit großer Mehrheit vom Ärztetag beschlossenen Positionierung heißt es dazu, die abschließende Verantwortung für Diagnostik, Indikationsstellung und Therapie müsse bei der Ärztin oder dem Arzt verbleiben und dürfe nicht an ein KI-System übertragen werden.

Entscheidend sei zudem, dass empathische Kommunikation und eine vertrauensvolle Beziehung zwischen Arzt und Patient durch den Einsatz von KI nicht in den Hintergrund geraten dürfen. Dies gelte umso mehr, als das diese beiden Aspekte einen wesentlichen Anteil am Behandlungserfolg haben.

Die Entwicklung von KI-Lösungen und deren Integration in die Versorgungsprozesse sollte deshalb stets von einer medizinisch-fachlichen Motivation getragen sein. Der Ärztetag unterstützt in diesem Sinne eine verantwortungsvolle Einführung von KI-Technologien zum Patientenwohl und fordert eine stärkere Berücksichtigung der ärztlichen Perspektive bei der Bestimmung von Rahmenbedingungen für den KI-Einsatz ein.

Ärztliche Verantwortung stärken

„Obwohl KI perspektivisch Teilaufgaben im diagnostischen und therapeutischen Prozess übernehmen kann, obliegt die abschließende Verantwortung für Diagnose, Indikationsstellung und Therapie der Ärztin oder dem Arzt und darf nicht an ein KI-System übertragen werden“, so die Delegierten.

Die Entwicklung KI-gestützter Systeme für die Medizin, ihrer Einsatzszenarien und fachlichen Fundierung müsse unter aktiver Beteiligung von Ärztinnen und Ärzten, also beispielsweise der medizinisch-wissenschaftlichen Fachgesellschaften und der ärztlichen Selbstverwaltung, erfolgen.

Ausdrücklich betont wird außerdem, dass die ärztliche Schweigepflicht hat auch im KI-Zeitalter Priorität habe. KI-Anwendungen müssten gewährleisten, dass dem Patientengeheimnis unterliegende Informationen nicht zur Kenntnis unbefugter Dritter gelangen können.

Die zu nutzenden KI-Algorithmen müssten mit „qualitativ hochwertigen, relevanten und repräsentativen Daten“ trainiert werden, um Fehldiagnosen sowie Diskriminierungen und Verzerrungen zu vermeiden. Für die Zertifizierung von KI-Systemen im Gesundheitswesen sollen „unabhängige und kompetent besetzte benannte Stellen unter Einbeziehung der Ärzteschaft“ verantwortlich sein.

Bei der Entwicklung und dem Training der KI solle die Diversität der Gesellschaft berücksichtigt werden, um den Bias möglichst gering zu halten und eine qualitative Versorgung für alle Patienten zu schaffen.

Grundsätzlich gelte, dass KI nicht zur Arbeitsverdichtung eingesetzt werden darf, sondern mehr Raum für Arzt-Patienten-Kontakt schaffen und der Verbesserung der Patientenversorgung dienen muss.

Gefordert wurde auch eine verstärkte Forschung zur Anwendung von KI in medizinischen Settings. Hierfür sei ein Auf- und Ausbau einer entsprechenden Forschungsinfrastruktur erforderlich. Zudem müssten Strukturen zur Förderung der Translation geschaffen werden, um die Verbreitung von KI-Anwendungen in der Versorgung zu unterstützen, die evidenzbasiert und auf der Grundlage in der Europäischen Union (EU) anerkannter medizinethischer Wertvorstellungen entwickelt wurden.

Ein weiterer im Beschluss thematisierter Aspekt stellt die ärztliche Aus-, Weiter- und Fortbildung dar. Ärztinnen und Ärzten müssten befähigt werden, die Funktionsweisen und Risiken von KI-gestützten Systemen zu verstehen, um diese kritisch zu bewerten und sinnvoll einsetzen zu können. Auch müsse die Ärzteschaft in der Lage sein, KI-Ergebnisse einer Plausibilitätsprüfung zu unterziehen. Eine KI-Kompetenzentwicklung sei auch breit im interprofessionellen Behandlungsteam zu verankern.

Wolle man Monopolbildungen durch global agierende Big-Tech-Unternehmen und unfaire Marktbedingungen im Bereich medizinischer KI verhindern, brauche es entsprechende fördernde Rahmenbedingungen für eine Anbietervielfalt im europäischen Kontext.

Die derzeitige Entwicklung, Handelshemmnisse zur Durchsetzung nationaler Interessen einzusetzen, mache die finanzielle Förderung europäischer KI-Lösungen dringend notwendig, warnte der Ärztetag. Die Bundesregierung solle dem Vorbild Frankreichs, KI massiv zu fördern, mit der Bereitstellung von Mitteln und Forschungsinfrastrukturen folgen. Dies gelte insbesondere für den Einsatz von KI in der Gesundheitsversorgung.

Die Organisationen der ärztlichen Selbstverwaltung sollten sich aktiv und selbstkritisch mit ihren eigenen Verwaltungsprozessen auseinandersetzen und zu prüfen, in welchen Bereichen der gezielte KI-Einsatz sinnvoll und datenschutzkonform möglich ist, so die Delegierten des Ärztetages. So soll langfristig die Effizienz der Verwaltung gesteigert werden.

Einrichtung eines KI-Expertengremiums

Der 129. Deutsche Ärztetag 2025 regte außerdem mit großer Mehrheit an, dass die Bundesärztekammer ein interdisziplinäres KI-Expertengremium einrichtet. Dieses Gremium soll sich aus Fachleuten aus Medizin, Informatik, Recht und Ethik sowie angrenzenden Disziplinen zusammensetzen und Entwicklungen im Bereich KI gestalten und bewerten.

Aus dem Gremium heraus sollen unter anderem medizinische und ethische Leitlinien für den Einsatz von KI in der Praxis formuliert werden. Außerdem soll die BÄK strategisch und fachlich beraten werden, damit diese öffentlich sichtbar Positionen zur KI beziehen und die Perspektive der Ärzteschaft gegenüber Politik und Gesellschaft vertreten kann. Das Gremium soll auf aktuelle Herausforderungen „schnell, fundiert und praxisnah“ reagieren.

aha