THEMEN DER ZEIT

Autonome Maschinen in der Medizin: Chancen und ethische Grenzen

Dtsch Arztebl 2017; 114(27-28): A-1370 / B-1144 / C-1121

Richter-Kuhlmann, Eva

Als E-Mail versenden...
Auf facebook teilen...
Twittern...
Drucken...

Autonome Systeme bergen ein erhebliches Potenzial für die Gesellschaft. Wie die Gesellschaft dies verantwortlich und unter Wahrung ethischer Standards beim Treffen von Entscheidungen nutzen kann, diskutierte der Deutsche Ethikrat jetzt auf seiner Jahrestagung.

Foto: Sisters of Design
Foto: Sisters of Design

Zwischenmenschliche Kontakte können intelligente Maschinen nicht ersetzen. Darin waren sich Ärzte und Naturwissenschaftler, Ethiker, Philosophen sowie Theologen auf der Jahrestagung des Deutschen Ethikrates zum Thema „Autonome Systeme“ am 21. Juni in Berlin einig. Fest steht aber auch: Prototypen von intelligenten Maschinen sind bereits in der Lage, Pflegeaufgaben zu übernehmen und alte wie auch kognitiv eingeschränkte Menschen für Rehabilitationsmaßnahmen zu motivieren. In der Produktion können kollaborative Roboter Menschen von schweren körperlichen Tätigkeiten entlasten. In sogenannten Smart Homes könnten Assistenzsysteme die Rehabilitation nach Kranken­haus­auf­enthalten unterstützen und im Falle von Unregelmäßigkeiten – wie etwa eines Sturzes – Nachbarn, Freunde oder Ärzte alarmieren. Komplexe Sensorik, selbstlernende Algorithmen sowie umfassende Vernetzungsmöglichkeiten erlauben es den Systemen, schnell und unter Abgleich vielfältiger Daten auf ihre Umwelt zu reagieren.

Angesichts dieser Möglichkeiten warb der Vorsitzende des Deutschen Ethikrates, Prof. Dr. theol. Peter Dabrock, für eine aktive Auseinandersetzung mit autonomen Maschinen. „Es liegt an uns als Gesellschaft, ob wir diese industrielle Revolution mitgestalten oder das anderen überlassen“, sagte er zur Eröffnung der Tagung, für die der Rat bewusst den Untertitel „Wie intelligente Maschinen uns verändern“ gewählt habe, berichtete er. Denn das dies geschehen werde, sei nahezu Konsens.

Mögliche Gefahren

Der Ratsvorsitzende wies neben den Chancen auch auf mögliche Gefahren und ethische Grenzen hin: „Können wir im Meer unserer Datenströme selbstbestimmt wir selbst bleiben oder stolpern wir – mehr berauscht als bewusst – vor lauter Freude an Miniaturverbesserungen unseres Alltages in eine Unmündigkeitsfalle hinein?“, fragte er. Da autonome Systeme in vielen unterschiedlichen Lebenssituationen Anwendung finden, dürften sie ethisch nicht isoliert diskutiert werden, betonte Prof. Dr. rer. nat. Henning Kagermann, Präsident der acatech – Deutsche Akademie der Technikwissenschaften. Überall benötige man juristische und ethische Regeln sowie Sicherheitsstandards. Deshalb sei „ein frühzeitiger und langfristig angelegter gesellschaftlicher Dialog nötig, in dem Chancen und Risiken transparent gemacht und gegeneinander abgewogen werden“, so Kagermann. Dann seien die Chancen, die die Systeme eröffneten, groß. Generell gelte jedoch: „Autonome Systeme können die Menschen unterstützen und ihre Fähigkeiten ergänzen, aber nicht ersetzen“, betonte der Physiker. „Wir brauchen den Menschen als letzte Kontrollinstanz.“

Verbesserte Teilhabe

Autonome Systeme könnten die Teilhabemöglichkeiten von Menschen über den gesamten Lebenszyklus hinweg verbessern, meinte Prof. Dr. rer. pol. Christoph M. Schmidt vom RWI – Leibniz-Institut für Wirtschaftsforschung und Vorsitzender des Sachverständigenrates zur Begutachtung der gesamtwirtschaftlichen Entwicklung. Gleichzeitig brauche man aber neue Regulierungsansätze, die die Befähigung zur individuellen Teilhabe und Absicherung gegenüber dem Schutz durch den Staat in den Vordergrund stellen.

Grenzen von autonomen Systemen spielen insbesondere in der Medizin eine große Rolle. Die Teilnehmer der Jahrestagung diskutierten daher speziell über den möglichen Einsatz von autonomen Maschinen und Pflegerobotern: „Die Automatisierung von Routinetätigkeiten in der Medizin wird langsam, aber zunehmend voranschreiten“, ist Prof. Dr. med. Dr.-Ing. Steffen Leonhardt, Medizinischer Informationstechniker von der Universität Aachen, überzeugt. Angesichts der demografischen Entwicklung in Deutschland seien Assistenzfunktionen in den zum Einsatz kommenden Geräten unerlässlich.

Dies sei auch nicht grundsätzlich zu verweigern, meinte Dr.-Ing. Birgit Graf vom Fraunhofer-Institut für Produktionstechnik und Automatisierung, Stuttgart. „Serviceroboter bieten das Potenzial, die Bedienung von Pflegehilfsmitteln in Bezug auf einen effizienten und ergonomischen Einsatz zu verbessern und damit Pflegekräfte bei ihrer Arbeit zu entlasten“, meint sie. Dies trage dazu bei, die Pflege als Beruf attraktiver zu gestalten. Intelligente Maschinen könnten den Anteil nichtpflegerischer Arbeiten reduzieren, sodass mehr Zeit für Menschlichkeit bleibe.

Anderes Patientenverhältnis

Keineswegs jedoch könnten durch den Einsatz von autonomen Maschinen die Qualifikationsanforderungen an das medizinische Personal gesenkt werden, meint Prof. Dr. phil. Adelheid Kuhlmey vom Institut für Medizinische Soziologie und Rehabilitationswissenschaften der Charité Berlin und Mitglied des Deutschen Ethikrates. Eher das Gegenteil sei der Fall, sagte sie dem Deutschen Ärzteblatt. Sie glaube nicht, dass der Fachexpertise von Ärztinnen und Ärzten sowie Pflegenden künftig nicht mehr vertraut werde. „Sie bleiben auch in Zukunft diejenigen, die Befunde – auch die von automatisierten Maschinen – lesen und einordnen können“, sagte sie. Trotzdem könne es sein, dass die Maschine das Verhältnis von Helfer und Patient verändere. Begonnen habe der Prozess durch die Möglichkeit, im Internet Gesundheitsinformationen zu erhalten.

Diskutiert wurde auf der Jahrestagung des Ethikrates auch die Frage, ob neue autonome Systeme den Nutzern nicht nur langweilige, schwierige oder gefährliche Aufgaben abnehmen, sondern auch in der Lage sein werden, die „richtigen“ Entscheidungen zu treffen. Die Informatikerin Prof. Dr. rer. nat. Katharina Anna Zweig von der Technischen Universität Kaiserslautern sieht das noch in weiter Ferne. Sie beklagte die zweifelhafte Qualität von algorithmusbasierten, entscheidungsunterstützenden Systemen und mahnte eine Qualitätssicherung an. Gesellschaftlich diskutiert werden müsse zudem, welche gesellschaftlichen Prozesse sich überhaupt für algorithmische Entscheidungssysteme eignen und wie sie optimiert werden sollten.

Keine Rechtspersönlichkeit

Es gibt auch rechtliche Grenzen: Prof. Dr. jur. Christiane Wendehorst von der Universität Wien stellte klar, dass im derzeit geltenden Recht Maschinen selbst dann keine Rechtspersönlichkeit zukomme, wenn sie mit fortgeschrittener künstlicher Intelligenz ausgestattet sind. „Der Algorithmisierung ethisch zu rechtfertigender Entscheidungen autonomer Systeme sind enge Grenzen gesetzt“, betonte auch Prof. Dr. phil. Julian Nida-Rümelin von der LMU München. Autonome Systeme könnten keine Verantwortung übernehmen, da der Verantwortungsbegriff an Intentionalität und Personalität gekoppelt sei, also an Fähigkeiten, die allein Menschen zukämen. „Roboter sind reine Instrumente, die nicht personalisiert werden sollten.“ Zudem verwies der Philosoph auf die Existenz von Dilemmasituationen. Dabei seien individuelle Entscheidungen gefragt, die nicht durch ein System getroffen werden könnten. Insgesamt sieht Nida-Rümelin jedoch dem Einzug von autonomen Systemen in den Alltag optimistisch entgegen, aber nur „wenn die Entwicklung sich nicht verselbstständigt und politisch, kulturell und gesellschaftlich begleitet wird.“

Dr. med. Eva Richter-Kuhlmann

Foto: Deutscher Ethikrat/Reiner Zensen
Foto: Deutscher Ethikrat/Reiner Zensen

3 Fragen an . . .

Prof. Dr. phil. Adelheid Kuhlmey, Mitglied des Deutschen Ethikrates

Werden Medizinmaschinen und Pflegeroboter der alternden Gesellschaft besser gerecht als unser derzeitiges Gesundheitssystem?

Kuhlmey: Es ist bemerkenswert, dass der demografische Wandel zum wesentlichen Argument für die Einführung von autonomer Technik im Gesundheitssystem geworden ist. Einerseits liegt dies auf der Hand: Zur Entlastung der Pflege bei einer zunehmenden Zahl hochbetagter, pflegebedürftiger Menschen könnte die richtige Technik beitragen. Andererseits geht es in Medizin und Pflege um sehr komplexe Gesundheitsprobleme von unterschiedlichen Menschen. Der Einsatz von mehr Technik muss erst noch beweisen, dass eine Maschine so flexibel wie ein Arzt oder eine Pflegekraft reagiert. Niemand kann heute mit Gewissheit sagen, wie der Beweis ausgeht.

Bis zu welcher Grenze lässt sich der Faktor Mensch durch Roboter ersetzen?

Kuhlmey: Ersetzen lässt sich der Mensch meiner Meinungnach gar nicht. Aber Maschinen könnten Menschen in Medizin und Pflege unterstützen. Bildlich setze ich eine Grenze bei der Vorstellung eines voll automatisierten Pflegeheimes. Wir müssen uns bewusst sein, dass der Einsatz von viel Technik das Helfer-(Arzt/Pflege-)Patient-Verhältnis verändert.

Wie lassen sich ethische Standards wahren?

Kuhlmey: Indem wir das eigentlich Ziel nie aus den Augen verlieren: Die Maschinen sollen das Leben der Menschen unterstützen. Wenn sie das nicht tun, sollten wir so autonom handeln und diese Maschinen nicht zulassen.

Anzeige

Leserkommentare

E-Mail
Passwort

Registrieren

Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.

Fachgebiet

Zum Artikel

Alle Leserbriefe zum Thema

Login

Loggen Sie sich auf Mein DÄ ein

E-Mail

Passwort

Anzeige