ArchivDeutsches Ärzteblatt1-2/2019Der Arzt behält die Deutungshoheit trotz KI

THEMEN DER ZEIT

Der Arzt behält die Deutungshoheit trotz KI

Dtsch Arztebl 2019; 116(1-2): A-18 / B-18 / C-18

Thielscher, Christian; Antes, Gerd

Als E-Mail versenden...
Auf facebook teilen...
Twittern...
Drucken...
LNSLNS

Grenzenloser Zweckoptimismus: Der Nutzen von künstlicher Intelligenz (KI) ist längst nicht belegt, das Potenzial maschinellen Lernens gänzlich überschätzt. Viel mehr geht es darum, eine Ideologie ohne Rücksicht auf Risiken und Kosten zu verwirklichen.

PRO

Digitalisierung, künstliche Intelligenz und Big Data werden als Konzept angepriesen, mit dem wir an der Schwelle zu einer Präzisionsmedizin stehen, die in Kürze fehlerfrei diagnostiziert und therapiert. Mit der richtigen technischen Aufrüstung für die Beherrschung der ungeheuren Datenmengen warten am Horizont schon das Ende des Zufalls und damit eine fehlerfreie Medizin. So die Versprechungen.

Anzeige
Prof. Dr. rer. nat. Gerd Antes Gastwissenschaftler am Institut für Didaktik und Ausbildungsforschung, Klinikum der Universität München, ehemaliger Direktor Cochrane Deutschland. Foto: Medienzentrum – Universitätsklinikum Freiburg
Prof. Dr. rer. nat. Gerd Antes Gastwissenschaftler am Institut für Didaktik und Ausbildungsforschung, Klinikum der Universität München, ehemaliger Direktor Cochrane Deutschland. Foto: Medienzentrum – Universitätsklinikum Freiburg

Genaueres Hinschauen beschert allerdings Ernüchterung. Die Definition von Zielen und die Beschreibung des Weges dorthin fehlen fast vollständig und werden durch Schlagwörter wie Gesundheit 4.0 ersetzt (1). Nutzen wird behauptet, aber nicht belegt. Um dem Fortschritt nicht im Wege zu stehen, werden von den in jeder gängigen Technologiebewertung (Health Technology Assessment) üblichen drei Dimensionen Nutzen – Risiko – Kosten die letzten beiden tunlichst ignoriert und die Bewertung auf ein – meist völlig überhöhtes – Nutzenversprechen reduziert.

Gerade bei Interventionen mit weitgehenden Auswirkungen ist es mehr als erstaunlich, warum solche Bewertungen nicht gefordert werden. Es wird jedoch verständlich, wenn man erkennt, dass es sich hier nicht um technische Entwicklungen handelt, sondern eine Ideologie entstanden ist, die realisiert werden soll (2).

Alles soll digitalisiert werden, Sinn und Nutzen spielen dabei keine Rolle. Die Digitalisierung ist einerseits zur Staatsräson geworden, als Ideologisierung funktioniert sie darüber hinaus auf der institutionellen sowie der individuellen Ebene. Wer will sich schon dem Fortschritt verweigern oder sich ihm sogar entgegenstellen.

Auch die Ärzteschaft scheint sich davon anstecken oder sogar einschüchtern zu lassen. Wir werden überschüttet mit Beispielen, in denen Apps Hilfsdienste leisten, Hautkrebs durch maschinelle Diagnostik schneller und treffsicherer erkannt werden kann oder auch durch Implantate Körperfunktionen direkt verfolgt werden und zu korrigierenden Maßnahmen führen. Viele Beschreibungen dieser Anwendungen muten eher wie Informatikprojekte denn als medizinische Entwicklungen an. Wiederum wird das enorme Potenzial betont. Dabei sind die klassischen Instrumente der Bewertung von Screeningmaßnahmen, diagnostischen Untersuchungen oder therapeutischen Verfahren notwendig, um Nutzen und Risiken zu bewerten.

Bei der künstlichen Intelligenz (KI) ist die Realität besonders schillernd. Es gibt kaum die sonst üblichen Methodenbeschreibungen, obwohl sie bei der Tragweite der Ergebnisse gerade hier Normalität sein müssten (3). Die Zunahme der Intelligenz durch maschinelles Lernen wird postuliert, in Modellprojekten entwickelt und erprobt. Visionäre beschreiben eine Zukunft, in der Maschinen den Menschen abhängen, der sie nicht mehr versteht.

Diese Entwicklung kann und wird so nicht erfolgen. Einmal kann der grenzenlose Zweckoptimismus nur in eine Richtung korrigiert werden, hin zu mehr Realität. Wie bei allen Blasen werden auch hier viele platzen. Darüber hinaus werden viele überraschende Effekte auftreten (4). In der vernetzen Welt müssen zum Beispiel über eine heterogene Technik Updates erfolgen, ohne dass es zu Funktionsausfällen kommt. Vermutlich am dramatischsten: Alles mit allem zu vernetzen bedeutet ein riesiges Einfallstor für Hacker und Cyberkriminelle, so dass Krankenhäuser in Geiselhaft (elektronisch) keine zu pessimistische Utopie sind. Die Reihe der überraschenden Ausfälle ließe sich leicht fortführen. Solchen Situationen steht KI hilflos gegenüber, während jeder erfahrene Arzt mit solchen Herausforderung umgehen kann. Wenn man nicht will, dass schwerkranke Patienten in der Hotline warten müssen, bleibt der Mensch unverzichtbar. Als weiterer nicht einschätzbarer Effekt: Eine Medizin ohne menschliche Zuwendung wird sich auf die Abwendung von der Schulmedizin auswirken. Selbst bei größter Technikgläubigkeit darf die Auswirkung auf die Menschlichkeit in der Medizin nicht übersehen werden.

Literatur im Internet:
www.aerzteblatt.de/lit0119
oder über QR-Code.



Das ärztliche Berufsbild wird sich ändern: Die Frage ist nicht, ob die Medizin durch Big Data und KI besser wird oder nicht – sie wird zweifellos in manchen Fällen besser –, sondern ob der Arzt zukünftig Benutzer eines Hilfsgerätes oder der Maschinist am Computer ist.

KONTRA

Bis vor einigen Jahren gab es an jeder Tankstelle Mengen an Kartenmaterial. Heute nicht mehr: Navigationsgeräte haben die eigene Sucherei verdrängt. Das ist zweifellos eine Verbesserung, auch der Verkehrssicherheit. Den Nebeneffekt, dass man die Routen nicht mehr selber auswählt, sondern faktisch von den Herstellern gelenkt wird, können die meisten wohl verschmerzen.

Prof. Dr. med. Dr. rer. pol. Christian Thielscher Leiter des Kompetenzcentrums für Medizinökonomie FOM Hochschule für Oekonomie & Management gemeinnützige GmbH. Foto: privat
Prof. Dr. med. Dr. rer. pol. Christian Thielscher Leiter des Kompetenzcentrums für Medizinökonomie FOM Hochschule für Oekonomie & Management gemeinnützige GmbH. Foto: privat

In der Medizin fällt das Verschmerzen schwerer. Bis heute ist man als Arzt gewohnt, gemeinsam mit dem Patienten zu entscheiden, was die beste Behandlung ist. Der Arzt bestimmt auch, welche Eigenschaften die von ihm benutzten Geräte haben sollen. Kein Hersteller von Medizinprodukten käme bisher auf die Idee, mit dem neuen Instrument dem Arzt zugleich vorzuschreiben, was er zu tun hat. Aber das ändert sich vielleicht: Genauso, wie es kaum noch Straßenatlanten im Auto gibt, werden IT-Unternehmen dann nicht nur bestimmen, wo man langfährt, sondern auch, wie Medizin funktioniert. Die Frage ist nicht, ob Maschinen ärztliche Funktionen ersetzen und ob die Medizin dadurch besser wird – sie wird zweifellos in manchen Fällen besser. Die Frage ist vielmehr, ob der Arzt künftig Benutzer eines Hilfsgerätes oder der Maschinist am Computer ist (1).

Symptom Checker und diagnostische Bilderkennungsverfahren gibt es schon länger; aktuelle Studien deuten darauf hin, dass sie in Spezialfällen bereits heute selbst erfahrenen Ärzten ebenbürtig oder sogar überlegen sind (2). Aktuellen Untersuchungen zufolge wächst ihre Nutzung exponenziell. Was ihnen (noch) fehlt: Spracherkennung und -steuerung sowie die Inspektion des Patienten. Aber diese Elemente lassen sich technisch inzwischen leicht ergänzen.

Viele medizinische Diagnosealgorithmen sind im Prinzip nicht komplexer als ein Schachspiel (etwa: welche Laborwerte mit welcher Wahrscheinlichkeit auf welche Krankheit hindeuten). Schwieriger war es bisher für Computer, den Patienten „einzuschätzen“ und zwischen den Zeilen zu lesen. Genau hier haben Maschinen aufgeholt. Künstliche neuronale Netze spielen unschlagbar gut Schach. Sprachsysteme können inzwischen mit Menschen kommunizieren, ohne dass der Mensch merkt, dass er mit einer Maschine spricht; und Webcams können immer besser Emotionen beurteilen. Koppelt man das mit Versicherungsdaten und einer klinischen Datenbank, entsteht ein selbstlernendes System, das mittelfristig jeden Diagnostiker schlägt.

Diese Entwicklung ist schon weiter, als manche Ärzte glauben. In Entwicklungsländern, in denen die Kosten eines einfachen Arztbesuches für viele Menschen nicht bezahlbar sind, gibt es bereits Pilotprojekte, in denen Symptom Checker die Versorgung im öffentlichen Auftrag (mit-)steuern. Und auch deutsche Krankenkassen verhandeln mit IT-Firmen.

Google (wie jedes andere der führenden Internet-Unternehmen auch) könnte problemlos eine Maschine bauen, die jederzeit erreichbar ist, beliebig viel Zeit hat und immer freundlich bleibt, minimale Grenzkosten hat und aus der Anamnese besser diagnostiziert als jeder menschliche Arzt. Versicherungsdaten und Vor-Ort-Dienstleister (zum Beispiel für die klinische Untersuchung) sind leicht dazuzukaufen (3). Das ist an sich alles kein Problem. Nur werden große Konzerne eben nicht demokratisch kontrolliert, sondern von ihren Eigentümern – und folgen daher nicht unbedingt den Interessen der „Stakeholder“ (Patienten, Ärzte, Öffentlichkeit) (4).

Was bedeuten diese Entwicklungen für das ärztliche Selbstverständnis? Da Maschinen nicht über menschliche Empathie im Sprechen und Handeln verfügen, vermute ich, dass Ärztinnen und Ärzte künftig primär eine Übersetzungs- und Steuerungsfunktion übernehmen werden und dabei Analysen des Computers mit anderen Informationen verknüpfen, mit dem Patienten Situation und Optionen besprechen und einen integrierten Therapieplan (mit)entwickeln werden. Der ärztliche Einfluss auf die Steuerung der medizinischen Versorgung dürfte eher abnehmen.

Literatur im Internet:
www.aerzteblatt.de/lit0119
oder über QR-Code.

1.
Antes G: Big Data und Personalisierte Medizin: Goldene Zukunft oder leere Versprechungen? Dtsch Arztebl 2016; 113 (15): A-712 / B-600 / C-59 VOLLTEXT
2.
Schneider M.: Wir Fingerwesen – eine Kritik der Digitalisierungsideologie. NZZ 23. Juni 2018. https://www.nzz.ch/meinung/wir-fingerwesen-eine-kritik-der-digitalisierungsideologie-ld.1396786 (last accessed on 15 december 2018).
3.
Ross C, Swetlitz I: IBM pitched its Watson supercomputer as a revolution in cancer care. It’s nowhere close. September 5, 2017. https://www.statnews.com/2017/09/05/watson-ibm-cancer/ (last accessed on 15 december 2018).
4.
Lammert N: Die künstliche und die menschliche Intelligenz. FAZ 3. Dez. 2018. https://www.faz.net/aktuell/politik/inland/norbert-lammert-ueber-kuenstliche-und-menschliche-intelligenz-15921057.html (last accessed on 15 december 2018).
e1.
Thielscher C: Organisation, Planung und Steuerung in der Medizin: Gegen Fremdbestimmung und Deprofessionalisierung. Dtsch Arztebl 2016; 113 (33–34): A-148 VOLLTEXT
e2.
Zylka-Menhorn V: Pigmentfleck oder malignes Melanom?: Künstliches neuronales Netz übertrifft Dermatologen bei Diagnose; Dtsch Arztebl 2018; 115 (29–30): A-138 VOLLTEXT
e3.
Loh E: Medicine and the rise of the robots: a qualitative review of recent advances of artificial intelligence in health. BMJ Leader 2018; 2: 59–63.
e4.
Thielscher C (Hg.): Medizinökonomie. Springer Gabler, Wiesbaden 2015 (Band 1); 2017 (Band 2)
1.Antes G: Big Data und Personalisierte Medizin: Goldene Zukunft oder leere Versprechungen? Dtsch Arztebl 2016; 113 (15): A-712 / B-600 / C-59 VOLLTEXT
2.Schneider M.: Wir Fingerwesen – eine Kritik der Digitalisierungsideologie. NZZ 23. Juni 2018. https://www.nzz.ch/meinung/wir-fingerwesen-eine-kritik-der-digitalisierungsideologie-ld.1396786 (last accessed on 15 december 2018).
3.Ross C, Swetlitz I: IBM pitched its Watson supercomputer as a revolution in cancer care. It’s nowhere close. September 5, 2017. https://www.statnews.com/2017/09/05/watson-ibm-cancer/ (last accessed on 15 december 2018).
4.Lammert N: Die künstliche und die menschliche Intelligenz. FAZ 3. Dez. 2018. https://www.faz.net/aktuell/politik/inland/norbert-lammert-ueber-kuenstliche-und-menschliche-intelligenz-15921057.html (last accessed on 15 december 2018).
e1.Thielscher C: Organisation, Planung und Steuerung in der Medizin: Gegen Fremdbestimmung und Deprofessionalisierung. Dtsch Arztebl 2016; 113 (33–34): A-148 VOLLTEXT
e2.Zylka-Menhorn V: Pigmentfleck oder malignes Melanom?: Künstliches neuronales Netz übertrifft Dermatologen bei Diagnose; Dtsch Arztebl 2018; 115 (29–30): A-138 VOLLTEXT
e3.Loh E: Medicine and the rise of the robots: a qualitative review of recent advances of artificial intelligence in health. BMJ Leader 2018; 2: 59–63.
e4.Thielscher C (Hg.): Medizinökonomie. Springer Gabler, Wiesbaden 2015 (Band 1); 2017 (Band 2)

Leserkommentare

E-Mail
Passwort

Registrieren

Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.