Digitale Ethik: Verpflichtender Einsatz KI-basierter Systeme in der Medizin

/Thomas Andreas, stockadobecom

Berlin – Durch Algorithmen herbeigeführte Entscheidungen müssen gerichtlich überprüfbar sein. Zu diesem Ergebnis kommen die Autoren des Diskussionspapiers „Mensch, Maschine, Moral ­– digitale Ethik, Algorithmen und künstliche Intelligenz“, das der Bundesverband Digitale Wirtschaft (BVDW) heute veröffentlicht hat. Mit seiner Schrift will der Verband einen praxisorientierten Diskussionsbeitrag zu Grundsatz­fragen digitaler Ethik liefern und die Chancen und Risiken innovativer Entwicklungen thematisieren.

Verpflichtender Einsatz von KI in der Medizin

In der praktischen Anwendung im Rahmen der Medizin vertreten die Autoren die Auffassung, dass eine „zeitgemäße Definition der ärztlichen Sorgfaltspflicht“ künftig auch die Anwendung von künstlicher Intelligenz (KI) mit nachgewiesenem Nutzen umfassen sollte. KI ersetze zwar nicht den Arzt, könne aber wertvolle Hilfestellung als „eine Art automatisierte Zweitmeinung“ geben.  Bereits heute verlange die ärztliche Sorgfaltspflicht den Einsatz moderner Behandlungsmethoden, orientiert am neuesten Stand der Wissenschaft. Folglich würden die Ärzte ihre Sorgfaltspflicht verletzen, wenn sie in bestimmten Bereichen, in denen der Nutzen einer KI-Technologie nachgewiesen wurde, auf deren Einsatz verzichten.

Wer haftet jedoch, wenn algorithmische Entscheidungssysteme beispielsweise eine falsche Diagnose geben? „Auch wenn der Algorithmus eine falsche Diagnose stellt, bleibt der Arzt oder die Ärztin die letzte Entscheidungsinstanz für die Therapie und haftet demgemäß auch für etwaige Kunstfehler“, schreiben die Autoren. Der richtige Umgang mit algorithmischen Systemen einschließlich des Bewusstseins ihrer Grenzen sei daher „von umso größerer Wichtigkeit“. Zugleich seien die in der Medizin eingesetzten KI-Systeme wissenschaftlich zu prüfen und freizugeben.

Entscheidet hingegen ein Algorithmus ohne menschliche Zwischeninstanz eigen­ständig, müsse der Anbieter des Systems haftbar gemacht werden können. Zwischen der Produkthaftung (fehlerhafter Algorithmus) und Mitverschuldenshaftung müsse ein „interessengerechter Ausgleich“ geschaffen werden.

Die Autoren gehen auch der Frage nach, ob Krebskranke dazu verpflichtet werden sollten, ihre Gesundheitsdaten der Forschung zur Verfügung zu stellen. Auf der Basis von Big-Data-Analysen etwa lässt sich Krebs in vielen Fällen früher und genauer diagnostizieren und besser therapieren. Hier regen die Autoren an, „eine nationale Forschungsdatenbank zu schaffen, auf der die Daten beispielsweise von Krebs­therapien standardisiert gesammelt werden, wobei eine individuelle Möglichkeit zum Widerspruch bestünde (‚Opt-out’)“. Zudem sollte eine Möglichkeit zur „Datenspende“ nach dem Tod geschaffen werden.

Beibehaltung des Solidaritätsprinzips im Krankenversicherungssystem

Zahlreiche Modelle für den Einsatz von KI setzen präventiv vor der Behandlung des Arztes an. Sie basieren darauf, dass vernetzte Geräte mittels Sensoren Bewegungen und Vitalwerte einzelner Nutzer erfassen und aufzeichnen. Dies „nährt die Befürchtung, dass die Solidarität zugunsten datenbasierter Individualtarife aufgeweicht werden könnte“, das heißt, dass derjenige, der seine Gesundheitsdaten an die Kranken­versicherung übermittelt, begünstigt werde.

Das hiesige Gesundheitssystem zeichne sich durch das Solidaritätsprinzip aus. Solidarität sei jedoch keine technische, sondern eine gesellschaftliche Frage, meinen hingegen die Autoren. „Unsere bisherigen Prinzipien der Solidarität gelten auch für die digitale Gesellschaft und werden durch die staatliche Aufsicht nach Maßgabe von Recht und Gesetz kontrolliert.“ Eine digitale Zwei-Klassen-Medizin drohe nicht.

Das Papier empfiehlt, ethische Fragen in die Ausbildung in Informatik, Data Science und anderen relevanten Fächern zu integrieren. Branchenverbände, Fachgemein­schaften und Unternehmen sollten die ethische Diskussion aktiv mitgestalten. Um Defizite möglichst frühzeitig zu erkennen, bietet sich den Autoren zufolge die Einbindung relevanter Stakeholder in Beiräten an, etwa von Patientenvertretern im Medizinbereich. © KBr/aerzteblatt.de