KI in der Medizin: Ärzteschaft für verbindlichen Rechtsrahmen

Mainz – Die Delegierten des 128. Deutschen Ärztetages drängen auf gemeinsame, wertebasierte rechtliche Rahmenbedingungen für die Verwendung Künstlicher Intelligenz (KI) in der Medizin. Die KI-Verordnung der Europäischen Union und die KI-Konvention des Europarates seien dafür gute Vorlagen.

Der Vorstand der Bundesärztekammer solle sich national und auf europäischer Ebene für eine verantwortungsvolle Entwicklung und Verwendung von KI-Systemen im Bereich der Medizin einsetzen, heißt es in einem mit großer Mehrheit angenommenen Antrag.

Es liege auf der Hand, dass ein möglichst global verbindlicher Rechtsrahmen benötigt werde, um den Umgang mit KI in allen Lebensbereichen vertrauenswürdig auszugestalten. Die KI-Verordnung der EU und der Entwurf des Rahmenübereinkommens des Europarates über KI und Menschenrechte, Demokratie und Rechtsstaatlichkeit würden dabei durch ihren verbindlichen Rechtscharakter hervorstechen.

„Bei aller Kritik im Hinblick auf mögliche Schwachstellen der Rechtsakte, so haben die beiden Regelungswerke zum Ziel, in einem ersten wichtigen Schritt den bestehenden Menschenrechtsrahmen auf KI anwendbar zu machen und festzulegen, welche Grundsätze dafür wichtig sind“, heißt es in dem Antrag.

Nun müsse im Anschluss die konsequente Umsetzung in nationales Recht erfolgen und im Bereich der Medizin aktiv von der Ärzteschaft begleitet werden. Dabei sei eine Reihe von Punkten zu berücksichtigen.

Allen voran müssten die Grundprinzipien des Europarates zu Menschenrechten, Demokratie und Rechtsstaatlichkeit bei der Entwicklung und dem Einsatz von künstlicher Intelligenz (KI) eingehalten und konsequent umgesetzt werden.

„Der Einsatz von KI-Systemen, die nicht im Einklang mit den gemeinsamen Werten in Deutschland und Europa stehen, muss unterbunden werden“, forderten die Delegierten. Es müsse sichergestellt werden, dass KI ausschließlich den Interessen und dem Wohle der Menschheit dient.

Was in der KI-Konvention des Europarates noch fehle, sei ein sanktionsbewährter Durchsetzungsmechanismus gegenüber den Vertragspartnern. Dieser müsse ergänzt werden. Auch müsse der Einsatz qualitätsgesicherter Daten als Grundlage für KI sichergestellt sein.

Ebenfalls sichergestellt werden müsse, dass die Funktionsweise von KI-Algorithmen stets nachvollzogen werden kann – insbesondere, welche Entscheidungsparameter ein Algorithmus verwendet. KI-Systeme, die auf mit maschinellem Lernen aus Daten gewonnenen Modellen basieren, sogenannte Machine-Learning-Modelle, dürften nicht zur Blackbox werden.

Aus heilberuflicher Sicht dürfe die fortschreitende Delegation bestimmter Aufgaben an technische Systeme nicht zum schleichenden Verlust von ärztlichen Kompetenzen und Erfahrungswissen führen.

Zudem müsse dem sogenannten Automation Bias entgegengewirkt werden: KI-Empfehlungen dürfe nicht blind gefolgt werden, heißt es im Antrag. Auch müsse der Einsatz von KI im Gesundheitswesen finanzierbar bleiben und dürfe nicht zu einer Zweiklassenmedizin führen, weder für Patienten noch für Ärzte. „KI kann den Arzt oder die Ärztin unterstützen und entlasten, darf ihn oder sie aber nicht ersetzen“, forderten die Delegierten.

lau