DÄ plusBlogsGesundheitGesundheits­-Algorithmus unter Rassismusverdacht
Gesundheit

Gesundheit

Gesundheit! Das Internet ist voll von medizinischen Ratschlägen. Viele sind gut gemeint. Manche sind skurril. Nicht alle halten, was sie versprechen. Hinter manchen vermeintlich harmlosen Tipps verbergen sich materielle Interessen. Unser Autor rme recherchiert, was evidenzbasiert ist und was nicht.

Als E-Mail versenden...
Auf facebook teilen...
Twittern...
Drucken...

Gesundheit

Gesundheits­-Algorithmus unter Rassismusverdacht

Freitag, 8. November 2019

Die Behandlung von Patienten wird im Gesundheitswesen zunehmend von Algorithmen bestimmt. Ob Patienten ein Lipidsenker oder ein Hochdruckmedikament verordnet wird, hängt nach den aktuellen US-Leitlinien nicht mehr primär vom LDL-Cholesterin oder dem gemessenen Blutdruck ab. Ausschlaggebend ist das 10-Jahres-Risiko für Herz-Kreislauf-Erkrankungen. Der Risikokalkulator ist eine relativ einfache und nachvollziehbare Variante eines Algorithmus.

Es gibt aber zunehmend Programme, die für die Anwender nicht mehr transparent sind. So mögen sich die Ärzte einer Uniklinik in Boston vielleicht gewundert haben, warum ihr Stationscomputer häufiger weiße als afrokamerikanischen Patienten für ein „High Risk Care Manage­ment“ auswählte. Es handelt sich um spezielle Programme, die beispielsweise Diabetiker vor den Spätkomplikationen der Erkrankung schützen sollen. Den Ärzten war aus ihrer klini­schen Erfahrung vielleicht bewusst, dass Afroamerikaner häufiger unter hohen Blutzucker­werten und anderen Komponenten des metabolischen Syndroms leiden. Für die Risikovor­sorge wurden sie dennoch seltener ausgewählt.

Den Grund hat ein Team um Sendhil Mullainathan von der Universität Chicago in einer Studie ermittelt. Der Algorithmus war nicht primär programmiert worden, um Patienten europäischer Herkunft zu bevorzugen (was mathematisch natürlich leicht machbar wäre). Zur rassistischen Verzerrung war es gekommen, weil der Hersteller es sich bei der Program­mierung des Algorithmus zu einfach gemacht hatte. Als Grundlage waren die früheren Gesundheitskosten des Patienten ausgewählt worden. Diese sind bei sozial benachteiligten Patienten (entgegen weitverbreiteter Vorurteile) häufig geringer, da sie seltener zum Arzt gehen und schwerer für Behandlungen zu motivieren sind, die ihren Gesundheitszustand verbessern.

Anzeige

Der Algorithmus verstärkt diese Tendenz im Sinn einer sich selbst erfüllenden Prophezeiung: Wer bei gleichem Risiko vor der Untersuchung weniger medizinische Dienstleistungen in Anspruch genommen hatte, dem wurden sie vom Algorithmus später seltener angeboten. Die Patienten werden dadurch doppelt benachteiligt und auch für den Kostenträger zahlt sich die Diskriminierung nicht aus, weil sie eine Gruppe selektioniert, die am Ende die höchsten Folgekosten erzeugt.

Die US-Forscher konnten die Schieflage erkennen, weil ihnen der Hersteller Einblick in den Algorithmus gewährt hatte. Nach einer Umprogrammierung stieg der Prozentsatz der afrokamerikanischen Patienten, die ein Risikomanagement erhielten, von 17,7 auf 46,5 Prozent an.

Es ist nicht selbstverständlich, dass die Hersteller sich in die Karten sehen lassen. Der Algorithmus ist oft die wirtschaftliche Grundlage ihres Unternehmens und die Angst vor einem geistigen Diebstahl groß. Noch schwieriger wird es, wenn der Algorithmus von einer künstlichen Intelligenz entwickelt wurde. Dann wissen auch die Programmierer nicht mehr, welche Faktoren in die Berechnungen einbezogen wurden.

Zwei Lösungen bieten sich an. Zum einen könnte eine „soziale“ Kontrolle der Algorithmen erfolgen. Sie müsste sicherstellen, dass alle gesellschaftlichen Gruppen gleichermaßen von den aufgelegten Programmen profitieren. Die zweite Lösung wäre eine Kosten-Nutzen-Analyse. Dabei geht es für die Kassen um die Frage, ob ein Algorithmus tatsächlich durch die Vermeidung von Folgekrankheiten einen Einspareffekt erzielt.

Leserkommentare

E-Mail
Passwort

Registrieren

Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.

Avatar #106067
dr.med.thomas.g.schaetzler
am Mittwoch, 13. November 2019, 11:14

Das muss man sich mal auf der Zunge zergehen lassen!

"Ob Patienten ein Lipidsenker oder ein Hochdruckmedikament verordnet wird, hängt nach den aktuellen US-Leitlinien nicht mehr primär vom LDL-Cholesterin oder dem gemessenen Blutdruck ab. Ausschlaggebend ist das 10-Jahres-Risiko für Herz-Kreislauf-Erkrankungen..."

Das bedeutet m. a. W., dass Anamnese, Untersuchung, Labor, Diagnose, Beratung und Therapie-Entscheidungen überflüssig sind und durch eine möglicherweise versteckt rassistisch beeinflusste Algorithmus-Entscheidung einer wie auch immer gearteten "künstlichen Intelligenz" (KI) ersetzt werden.

Die US-amerikanische Medizin entfernt sich immer weiter von moralisch-ethischen Grundsätzen einer personalisierten Medizin im "alten Europa".

Mf+kG, Dr. med. Thomas G. Schätzler, FAfAM Dortmund
LNS
Alle Blogs
Vom Arztdasein in Amerika
Vom Arztdasein in Amerika
Gesundheit
Gesundheit
Frau Doktor
Frau Doktor
Pflegers Schach med.
Pflegers Schach med.
Dr. werden ist nicht schwer...
Dr. werden ist nicht schwer...
Global Health
Global Health
Dr. McCoy
Dr. McCoy
Das lange Warten
Das lange Warten
Sea Watch 2
Sea Watch 2
PJane
PJane
Praxistest
Praxistest
Res medica, res publica
Res medica, res publica
Studierender Blick
Studierender Blick
Britain-Brain-Blog
Britain-Brain-Blog
Unterwegs
Unterwegs
Lesefrüchtchen
Lesefrüchtchen
Gratwanderung
Gratwanderung
Polarpsychiater
Polarpsychiater
praxisnah
praxisnah