Leitlinie für ethischen Einsatz von Künstliche Intelligenz in der Medizin

Stuttgart – Künstliche Intelligenz (KI) gewinnt in der Medizin immer mehr an Bedeutung. Ein Forschungsteam des Bosch Health Campus und der Universitäten Bayreuth und Bristol schlagen im Journal npj Digital Medicine ein Modell für einen verlässlichen und sicheren Umgang mit medizinischer KI vor (2024; DOI: 10.1038/s41746-024-01224-3).

Es soll dazu beitragen, das Vertrauensverhältnis zwischen Ärzten und Patienten auch beim Einsatz von KI zu erhalten. „Vertrauen ist ein wichtiger Parameter für Behandlungserfolg und Patientenzufriedenheit und damit Voraussetzung für die Nutzung der Potenziale von KI in der Medizin“, sagte Eckhard Nagel vom Institut für Medizinmanagement und Gesundheitswissenschaften an der Universität Bayreuth.

Die Forschungsgruppe schlägt für die Entwicklung von KI und deren Einsatz verschiedene Komponenten vor. Besonders wichtig ist danach, dass medizinische Fachkräfte und Patienten am Entwicklungsprozess beteiligt werden, um mehr Transparenz zu schaffen und Diskriminierungen und Anwendungsgefahren zu vermeiden.

Die Autorengruppe empfiehlt für Fachgruppen zudem standardisierte Informationen zu der Anwendung, die auf den Informationsbedarf professioneller Anwender ausgerichtet sind. Wichtig seien bei der Anwendung zudem Leitlinien für die Integration von medizinischer KI in den klinischen Beratungs- und Behandlungsprozess. Außerdem sollten die Datensicherheit gewährleistet und haftungsrechtliche Fragen geklärt und entsprechend dokumentiert sein.

„Wir wollen mit dem Modell eine Diskussion anstoßen, damit entsprechende Regularien möglichst bald Einzug in die Praxis halten und von Start-Ups und Entwicklern angewendet werden können“, erläuterte Lena Zuchowski, Senior Lecturer für Wissenschaftsphilosophie an der Universität Bristol.

Die Forschungsgruppe fordert zusammenfassend, dass der Erfolg und die Zuverlässigkeit von medizinischer KI genauso streng wie andere Behandlungsmethoden belegt werden müssen.

hil