ArchivDeutsches Ärzteblatt9/2019Digitale Ethik: Diskussionspapier zu KI-basierten Systemen in der Medizin

MEDIEN

Digitale Ethik: Diskussionspapier zu KI-basierten Systemen in der Medizin

Dtsch Arztebl 2019; 116(9): A-434 / B-353 / C-349

Krüger-Brand, Heike E.

Als E-Mail versenden...
Auf facebook teilen...
Twittern...
Drucken...
LNSLNS

Durch Algorithmen herbeigeführte Entscheidungen müssen gerichtlich überprüfbar sein. Zu diesem Ergebnis kommen die Autorinnen und Autoren des Diskussionspapiers „Mensch, Maschine, Moral – digitale Ethik, Algorithmen und künstliche Intelligenz“, das der Bundesverband Digitale Wirtschaft (BVDW) jetzt veröffentlicht hat. Mit seiner Schrift will der Verband einen praxisorientierten Diskussionsbeitrag zu Grundsatzfragen digitaler Ethik liefern und die Chancen und Risiken innovativer Entwicklungen thematisieren.

Zu den Empfehlungen zählt unter anderem, ethische Fragen in die Ausbildung in Informatik, Data Science und anderen relevanten Fächern zu integrieren. Foto: ipopba/iStock
Zu den Empfehlungen zählt unter anderem, ethische Fragen in die Ausbildung in Informatik, Data Science und anderen relevanten Fächern zu integrieren. Foto: ipopba/iStock

In der praktischen Anwendung im Rahmen der Medizin vertreten die Autoren die Auffassung, dass eine „zeitgemäße Definition der ärztlichen Sorgfaltspflicht“ künftig auch die Anwendung von künstlicher Intelligenz (KI) mit nachgewiesenem Nutzen umfassen sollte. KI ersetze zwar nicht den Arzt, könne aber wertvolle Hilfestellung als „eine Art automatisierte Zweitmeinung“ geben. Bereits heute verlange die ärztliche Sorgfaltspflicht den Einsatz moderner Behandlungsmethoden, orientiert am neuesten Stand der Wissenschaft. Folglich würden die Ärzte ihre Sorgfaltspflicht verletzen, wenn sie in bestimmten Bereichen, in denen der Nutzen einer KI-Technologie nachgewiesen wurde, auf deren Einsatz verzichten.

Anzeige

In Bezug auf Haftungsfragen schreiben die Autoren: „Auch wenn der Algorithmus eine falsche Diagnose stellt, bleibt der Arzt oder die Ärztin die letzte Entscheidungsinstanz für die Therapie und haftet demgemäß auch für etwaige Kunstfehler.“ Der richtige Umgang mit algorithmischen Systemen einschließlich des Bewusstseins ihrer Grenzen sei daher „von umso größerer Wichtigkeit“. Entscheidet hingegen ein Algorithmus ohne menschliche Zwischeninstanz eigenständig, müsse der Anbieter des Systems haftbar gemacht werden können.

Die Autoren regen zudem eine nationale Forschungsdatenbank an, „auf der die Daten beispielsweise von Krebstherapien standardisiert gesammelt werden, wobei eine individuelle Möglichkeit zum Widerspruch bestünde (‚Opt-out’)“.

Auch sollten ethische Fragen in die Ausbildung in Informatik, Data Science und anderen relevanten Fächern integriert werden und Branchenverbände, Fachgemeinschaften und Unternehmen die ethische Diskussion aktiv mitgestalten. Um Defizite möglichst frühzeitig zu erkennen, bietet sich den Autoren zufolge die Einbindung relevanter Stakeholder in Beiräten an, etwa von Patientenvertretern im Medizinbereich. KBr

http://daebl.de/VE82

Leserkommentare

E-Mail
Passwort

Registrieren

Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.

Deutsches Ärzteblatt plus
zum Thema

Fachgebiet

Zum Artikel

Anzeige

Alle Leserbriefe zum Thema