ArchivDeutsches Ärzteblatt10/2020E-Health: Den Gender-Bias vermeiden

THEMEN DER ZEIT

E-Health: Den Gender-Bias vermeiden

Dtsch Arztebl 2020; 117(10): A-478 / B-416

Krüger-Brand, Heike E.

Als E-Mail versenden...
Auf facebook teilen...
Twittern...
Drucken...
LNSLNS

Geschlechtssensible Aspekte kommen in der digitalen Medizin immer noch oft zu kurz. Dabei bergen Datenlücken und genderbedingte Verzerrungen speziell in Systemen, die auf künstlicher Intelligenz basieren, viele Risiken für Versorgung, Forschung und Entwicklung.

Foto: 3DSculptor/iStock
Foto: 3DSculptor/iStock

Algorithmische Systeme sind in vielen Bereichen des Lebens präsent. Sie beeinflussen, wer zum Vorstellungsgespräch eingeladen und was online eingekauft wird oder wer als kreditwürdig gilt. Sie werden mit Daten aus der realen Welt gefüttert und lernen daraus. Allerdings sind sie dabei oft nicht neutral, sondern übernehmen bestehende Vorurteile und Ungleichheiten aus der Lebenswelt. „Diskriminierungen sind eines der größten Probleme bei der Anwendung von Algorithmen“, schreibt Alexandra Geese, Europaabgeordnete für die Grünen in Brüssel*. Im schlimmsten Fall fördern technische Anwendungen sogar die Ungleichbehandlung und setzen bekannte Stereotype fort. Wenn zum Beispiel selbstlernende Systeme Texte in der Medizin auswerten und darin die meisten Chef- und Oberarztposten von Männern besetzt sind, während in der Pflege viele Frauen arbeiten, schließe der Algorithmus: „Mann gleich Arzt, Frau gleich Krankenschwester“, meint Geese.

Anzeige

„Ohne Intervention führen algorithmische Systeme zu einer Fortschreibung existierender Geschlechterrollen und -bilder“, erklärt Prof. Dr. Nicola Marsden, wissenschaftliche Leiterin des vom Bun­des­for­schungs­minis­terium geförderten Projekts „Gender. Wissen. Informatik. Netzwerk zum Forschungstransfer des interdisziplinären Wissens zu Gender und Informatik“. Das gerade beendete Projekt zielte unter anderem darauf ab, Frauen in der IT zu stärken und weiblichen Young Professionals in der Informatik den Weg in Spitzenpositionen zu erleichtern.

E-Health als Männerdomäne

Die Parallelen zum Gesundheitsbereich sind offensichtlich, denn die E-Health-Szene ist traditionell eine Männerdomäne, Frauen spielen bei der Digitalisierung des Gesundheitswesens nach wie vor eine untergeordnete Rolle. „Ob es die gematik ist, das BfArM – Bundesinstitut für Arzneimittel und Medizinprodukte oder das Bun­des­ge­sund­heits­mi­nis­ter­ium – alle Leitungspositionen sind zu 100 Prozent männlich besetzt und waren es schon immer“, kritisiert Prof. Dr. med. Sylvia Thun, Direktorin für E-Health und Interoperabilität am Berliner Institut für Gesundheitsforschung (BIH) der Stiftung Charité, im Gespräch mit dem Deutschen Ärzteblatt. Auch innerhalb der Medizininformatik-Initiative sei keine Frau als Konsortialleitung dabei. „Es gibt dort sicherlich Frauen in medizinfachlichen Führungspositionen, aber die Leitung der Datenintegrationszentren ist zum Beispiel fast ausschließlich männlich besetzt. Es gibt keine Quote und es ist auch nicht abzusehen, dass es besser wird“, moniert die Ärztin, Ingenieurin und Professorin für Medizininformatik.

Thun hat daher gemeinsam mit Dr. med. Christiane Groß, der Präsidentin des Deutschen Ärztinnenbundes (DÄB), das bundesweite Netzwerk „#SheHealth – Women in Digital Health“ gegründet, um das Engagement von Frauen in der digitalen Medizin stärker sichtbar zu machen und das Bewusstsein für geschlechtsspezifische Fragen zu schärfen. Das bundesweite Netzwerk hat inzwischen 120 Mitglieder unter anderem aus Universitäten, Kliniken, Fachgesellschaften und Berufsverbänden.

Diversität als Erfolgsfaktor

Zwar sind in der Medizininformatik inzwischen mehr als 40 Prozent der Studienbeginner weiblich, doch bleiben Frauen in ihrer beruflichen Laufbahn anschließend auf den unteren Ebenen stecken. „In der mittleren und oberen Führungsebene ist in der Medizininformatik keine Frau anzutreffen. Auch die W3- oder die C2- und C3-Professuren für Medizininformatik sind 40 Jahre lang ausschließlich von Männern besetzt worden. Das ist ein Missstand, den man beheben muss“, meint Thun. Denn Diversität macht ihr zufolge erfolgreiche Projekte aus und trägt dazu bei, eine rein technokratische Sicht auf das digitale Gesundheitswesen und damit verbundene Fehlentwicklungen zu vermeiden.

So habe die gematik zum Beispiel jahrelang den Fokus vor allem auf die E-Health-Technologie und die technische Sicherheit gelegt, dabei aber die Sicherheitslücken in Organisationsprozessen übersehen. Andere Länder sind laut Thun in der Digitalisierung weiter, weil sie stärker praxis- und anwendungsorientiert vorgegangen sind, möglicherweise aber auch, weil Tele­ma­tik­infra­struk­turprojekte dort von Frauen geleitet werden. Prominente Beispiele dafür sind das von einer Frau geführte Kompetenzzentrum für Standardisierung und E-Health in den Niederlanden oder die erfolgreiche ELGA-Entwicklung in Österreich. „Mit gemischten Teams zu arbeiten, ist ein Erfolgsrezept“, betont Thun.

Die Genderproblematik ist dabei komplex. Man habe es mit einem „doppelten Problem“ zu tun, so Maria Klein-Schmeink, gesundheitspolitische Sprecherin der Grünen im Bundestag, bei der vom BIH und #SheHealth Ende 2019 veranstalteten Fachtagung „Gesunde Algorithmen? Frauen und künstliche Intelligenz im Gesundheitswesen“. „Einerseits mit dem Problem von Gendermedizin überhaupt“ sowohl in Forschung und Versorgung, andererseits weil Frauen „in fast allen Entscheidungsgremien des Gesundheitssystems, in allen Formen der Selbstverwaltung im Grunde entweder nicht oder nur spärlich vorkommen“. Die Versorgung an dieser Stelle sei – da nicht gendergerecht – eine Fehlversorgung. Patienten seien letztlich „Objekt von einer sehr stark männlich geprägten Versorgungs- und Selbstverwaltungslandschaft“.

Mit dieser harschen Kritik steht sie nicht allein. „Frauen fehlen nicht nur in Anatomielehrbüchern. Auch ihr Fehlen in medizinischen Studien ist ein historisch tradiertes Problem, das in der Wahrnehmung des männlichen Körpers als Prototyp des Menschen wurzelt“, kritisiert die Autorin Caroline Criado-Perez in ihrem 2019 erschienenen Buch „Unsichtbare Frauen. Wie eine von Daten beherrschte Welt die Hälfte der Bevölkerung ignoriert“. Die Folge sei eine riesige, über lange Zeit entstandene Datenlücke, die eine unsichtbare Verzerrung erzeuge. Die Folgen können jedoch erhebliche Risiken für Frauen bedeuten, etwa wenn Herzmedikamente, die das Leben von Männern verlängern, bei Frauen die Sterblichkeit erhöhen.

Einige Beispiele für Geschlechterunterschiede in der Medizin präsentierte Prof. Dr. med. Sabine Oertelt-Prigione, Radboud-Universität Nijmegen, bei der Fachtagung. So können Frauen unterschiedliche Symptome beim Herzinfarkt haben. Bei den meisten Frauen seien die Symptome indes ähnlich wie beim Mann, aber „die Wahrscheinlichkeit, dass die Symptome nicht vorhanden sind, ist bei Frauen höher“, präzisierte sie. Dies ist ein Grund dafür, dass Infarkte eher übersehen werden und die Wahrscheinlichkeit von Fehldiagnosen bei Herzinfarkten von Frauen erhöht ist.

Fast alle Autoimmunerkrankungen treten zudem bei Frauen häufiger als bei Männern auf. Von den über 70-Jährigen, die einen Knochenbruch erleiden, sind ein Drittel Frauen mit Osteoporose und immerhin ein Fünftel Männer mit Osteoporose. Gescreent würden allerdings nur Frauen, weil Osteoporose als „Erkrankung der postmenopausalen Frau“ gelte, so die Expertin.

Förderung für mehr Wissen

Auch in der Politik sieht man Handlungsbedarf. So hat das Bun­des­ge­sund­heits­mi­nis­ter­ium Ende 2018 einen Förderschwerpunkt „Geschlechtsspezifische Besonderheiten in der Gesundheitsversorgung, Prävention und Gesund­heits­förder­ung“ aufgelegt und mit 3,6 Millionen Euro ausgestattet. Ziel sei es, mehr Wissen über die Beachtung der geschlechtsspezifischen Besonderheiten in der Versorgung zu erlangen und entsprechende Präventionsmaßnahmen zu entwickeln und zu erproben, schreibt die Bundesregierung in einer Antwort auf eine Kleine Anfrage der FDP-Fraktion im Bundestag (19/16769). Darin hatte diese bemängelt, dass geschlechtsspezifische Medizin gegenwärtig immer noch „eine Randerscheinung“ im Gesundheitswesen ist.

Auch für die Forschung sind Genderfragen hochrelevant. „Es gibt in der Medizin seit Langem ein Problem mit der Datenbasis von Studien“, betonte Brigitte Strahwald, MSc Mmel, Ärztin und Epidemiologin an der Ludwig-Maximilians-Universität München. So stellen in klinischen Studien, etwa zur Zulassung neuer Wirkstoffe, weiße Männer mittleren Alters oft die Mehrheit unter den Teilnehmenden. Das gelte auch für die KI-Forschung mit ihrem Bedarf an großen Datenmengen. Wenn Datensätze, Modelle und Algorithmen Frauen nicht ausreichend berücksichtigen und Frauen zudem auch in der Entwicklung und Programmierung von KI unterrepräsentiert sind, wirkt sich das auch auf KI-basierte Forschung und Anwendungen aus. Eine substanzielle wissenschaftliche Aufarbeitung für KI im Gesundheitswesen unter dem Aspekt der Genderperspektive fehle bislang. „Das ist ein blinder Fleck, auf den wir fokussieren müssen“, konstatierte sie.

KI wird laut Strahwald beispielsweise genutzt, um Röntgenbilder automatisch im Hinblick auf Auffälligkeiten und krankhafte Veränderungen zu klassifizieren. Die Bilder werden durch KI-Verfahren analysiert und eingeteilt. Die Verknüpfungen verschiedener Technologien ermöglichten dabei den echten Mehrwert von KI. Von besonderer Bedeutung, etwa in der Mustererkennung, ist das Machine Learning. Hierfür seien in der Regel viele Daten nötig, die zu einem Daten-Set aufbereitet werden. Letzteres werde in der Regel aufgeteilt in Test- und Trainingsdaten mit dem Ziel, ein Modell oder einen Algorithmus zu entwickeln, der bei bestimmten Aufgaben wie etwa der Einteilung von Röntgenbildern hilft. Mit den Daten werden hochdimensionale statistische Modelle trainiert und laufend verbessert. „KI ist im wesentlichen Statistik“, betonte die Expertin.

Auf die Datenbasis kommt es an

Fehlerquellen gibt es indes viele. Wenn ein Gender-Bias in der Datenbasis enthalten ist, werde dieser reproduziert. Zudem gebe es Datensätze, bei denen Frauen unterrepräsentiert oder Männer und Frauen nicht getrennt ausgewiesen seien. Das könne zu Verzerrungen führen. Oft gebe es Hinweise auf einen Gender-Bias, aber die Verifizierung sei aufwendig, da sie idealerweise eine Analyse der Ursprungsdaten oder der Algorithmen umfassen müsste.

Beispiel Kardiologie: Veränderungen der Aortenklappen sind geschlechtsspezifisch. Sogar die Zellen der Patientinnen und Patienten unterscheiden sich, aber die Zellen selbst werden in Studien nicht als männlich oder weiblich markiert. „Wir haben viele KI-Studien in der Kardiologie, in denen aufgrund von Massendaten – ob es nun Zelldaten, genetische Daten oder Vitaldaten sind – Prädiktionsmodelle entwickelt werden, etwa im Hinblick darauf, ob der Patient in den nächsten Stunden oder Tagen einen Herzinfarkt entwickelt“, erläutert Thun.

Ein anderes Beispiel ist der sogenannte AKI-(„acute kidney injury“-)Alert beim akuten Nierenversagen, ein Algorithmus, der vom britischen National Health Service zur Verfügung gestellt wird. „Der Algorithmus hat verschiedene Parameter, die abgefragt werden. Dazu zählt an einer Stelle auch das Geschlecht, das aber an weiteren Stellen des Algorithmus nicht mehr abgefragt wird“, so die Expertin. Damit sei der AKI-Alert vom Algorithmus her nicht gendergerecht. Hinzu kommt, dass der Algorithmus selbst, also die lernende KI, auf Daten von Soldaten aus den USA beruht – mit einem Frauenanteil von sechs Prozent. „Ich habe nur sechs Prozent weibliche und 94 Prozent männliche Daten als Basis des sich selbst entwickelnden Systems, das heißt, Fehler am Anfang extrapolieren sich später“, erklärt Thun. Die Fehler ließen sich irgendwann auch gar nicht mehr beheben. Man könnte nachträglich zwar noch Massendaten von Frauen in eine Studie einbeziehen, aber das werde in der Regel nicht gemacht.

Genderproblematik bei Apps

Auch der DÄB hat kürzlich darauf hingewiesen, dass die Gendermedizin durch die zunehmende Digitalisierung im Gesundheitswesen eine noch größere Dringlichkeit erhält. „Tatsächlich wissen wir bei den aktuell vorhandenen Apps nicht, welche Daten einbezogen werden“, so die DÄB-Präsidentin Groß. Wenn in der analogen Welt Genderaspekte nicht selbstverständlich in die Medizin integriert seien, bestehe die große Gefahr, dass sie in einer digitalen Welt „erst recht“ übersehen werden.

Vor diesem Hintergrund müssen beispielsweise auch die Kriterien für die digitalen Gesundheitsanwendungen, die das BfArM auf ihre Erstattungsfähigkeit prüfen und zulassen soll, hinsichtlich Genderaspekten präzisiert werden, fordert die Informatikerin Thun. Diese und weitere Anforderungen finden sich in dem „Memorandum für eine geschlechtergerechte KI im Gesundheitswesen“ des #SheHealth-Netzwerks (Kasten).

Gehe es nur um das biologische Geschlecht, sei es noch relativ einfach, etwa Chromosomen oder Hormone zu erfassen und binär zu beschreiben, meinte Gender-Medizinerin Oertelt-Prigione. „Wenn es um Gender geht, wird es hingegen kompliziert.“ Denn dabei handele es sich um ein komplexes Konzept aus den Sozialwissenschaften, das für die Medizin aufzubereiten sei. Es gehe dabei um Identitäten, Rollen, Beziehungen und Institutionen.

„Die erste Frage ist daher: Was erfassen wir überhaupt?“ Das sei wichtig für die Umsetzung der Konzepte in KI. Und: „Was passiert, wenn die Algorithmen Daten gebrauchen, die schon lange im Umlauf sind?“ So reagieren ihr zufolge Chatbots oftmals auf Symptomangaben unterschiedlich, je nachdem, ob sie von einem Mann oder einer Frau stammen. Der Mann werde mit Verdacht etwa auf instabile Angina oder Herzinfarkt an die Rettungsstelle, die Frau hingegen mit dem Verdacht auf eine Panikattacke oder Depressivität an den Hausarzt verwiesen. Dieses Beispiel verdeutliche, wie die Algorithmen trainiert wurden – und wie der Bias sich fortsetze. „Wir brauchen Datensätze, die diesen Geschlechter-Bias gar nicht enthalten“, erklärte Oertelt-Prigione.

Darüber hinaus spielt der Aspekt der Datensicherheit im Hinblick auf Daten zu Geschlechteridentität und sexueller Orientierung ihr zufolge eine große Rolle, weil diese Daten, auch mit Blick auf andere Länder, potenziell ein hohes Risiko für die Patienten darstellen können. „Wir brauchen diese Daten, damit wir die Versorgung verbessern können und den Bias nicht fortführen. Aber wir müssen sicherstellen, dass diese Daten sicher sind“, forderte sie.

Transparenz nötig

Aus Sicht der Grünen-Politikerin Klein-Schmeink ist absehbar, dass der KI-Einsatz im Gesundheitswesen all die Mängel aufweisen wird, die insgesamt für die Digitalisierung im Gesundheitswesen festzustellen sind. Eine strategische Betrachtung hierzu fehle, ebenso ein partizipativer Prozess, in den alle Akteure einbezogen wären. Der Bereich Forschung und KI sei gesetzlich bislang noch nicht geregelt. Ihre Empfehlung: „Wir müssen ein ähnliches Vorgehen wählen wie bei der Antidiskriminierung insgesamt.“ Dazu zähle insbesondere, für Transparenz zu sorgen, etwa im Hinblick darauf, wer mit welchem Interesse Daten erhoben habe.

Ein eigener Lehrstuhl für Digitalisierung und Gender wäre zur Bearbeitung vieler dieser Fragen aus Sicht von Thun hilfreich. „Derzeit haben wir nur die Genderlehrstühle. Gebraucht wird jemand, der Mediziner ist und sich gut mit Daten und Genderaspekten auskennt.“

Im Übrigen hat die EU-Kommission in ihrem gerade veröffentlichten Weißbuch zur KI angekündigt, einen europäischen Regulierungsrahmen für eine vertrauenswürdige KI zu schaffen, der explizit auch die Nichtdiskriminierung etwa aufgrund des Geschlechts aufgreifen wird. Die Vorschläge beinhalten unter anderem, dass KI-Anwendungen mit hohem Risiko – dazu zählen auch Anwendungen im Gesundheitswesen – von herstellerunabhängigen Stellen geprüft werden müssen, bevor sie in der EU auf den Markt gelangen. Heike E. Krüger-Brand

*http://daebl.de/LC54

Memorandum Frauen und KI im Gesundheitswesen

  • In Forschung und Anwendung der KI im Gesundheitswesen müssen alle Geschlechter adäquat berücksichtigt werden.
  • Es müssen Kriterien für gendergerechte KI im Gesundheitswesen entwickelt werden.
  • Der Gender-Bias in der Medizin und in der KI im Gesundheitswesen muss besser erforscht werden.
  • Die Algorithmen im Gesundheitswesen müssen Genderaspekte berücksichtigen.
  • In den zugrundeliegenden Daten für KI im Gesundheitswesen müssen alle Geschlechter adäquat repräsentiert sein. Ein Bias ist zu vermeiden beziehungsweise, wenn er nicht auszuschließen ist, auszuzeichnen.
  • Für die Zulassung von digitalen Gesundheitsanwendungen nach dem Digitale-Versorgung-Gesetz und der Digitale-Gesundheitsanwendungen-Verordnung müssen Kriterien der Gendergerechtigkeit konkret formuliert und verbindlich eingefordert werden, vor allem um die Sicherheit von Patientinnen und Patienten nicht zu gefährden.
  • Professuren und Führungspositionen für KI im Gesundheitswesen müssen paritätisch besetzt werden.
  • Parität muss für Expertinnen- und Expertenbeiräte, Beratungsgremien der Bundesregierung, Fachgesellschaften, Organe der Selbstverwaltung und Gesprächspanels im Bereich KI im Gesundheitswesen gelten.
  • In der Ausbildung, Lehre und Weiterbildung zu KI im Gesundheitswesen müssen Genderaspekte berücksichtigt werden.
  • Die Ausbildung von Informatikerinnen, Wissenschaftlerinnen und Entwicklerinnen im Bereich KI im Gesundheitswesen muss gefördert werden.

Prof. Dr. med. Sabine Oertelt-Prigione, Brigitte Strahwald, Prof. Dr. med. Sylvia Thun, Karin Höhne

Für das Netzwerk #SheHealth – Women in Digital Health, basierend auf der Tagung „Gesunde Algorithmen? Frauen und künstliche Intelligenz im Gesundheitswesen“ in Berlin (16. Dezember  2019)

Frauen als Start-up-Gründerinnen benachteiligt

Am Beispiel von Femtech-Start-ups lässt sich aufzeigen vor welchen Herausforderungen Gründerinnen in der E-Health-Branche stehen. Der Begriff (zusammengesetzt aus „female“ und „technology“) beschreibt digitale Anwendungen, die speziell auf die (oft gesundheitsbezogenen) Bedürfnisse von Frauen fokussieren. In den letzten Jahren hat sich die Vielfalt solcher Lösungen erheblich erweitert. Dazu zählen etwa digitale Zyklustracker, Apps zur Schwangerschaftsbetreuung und Wellnessanwendungen bis hin zu neuartigen Diagnosemöglichkeiten für zu Hause. Vor allem junge Gründerinnen sind hier bei der Entwicklung technologiebasierter Software und Dienste dabei. Beispiele sind etwa ein smartes Armband gegen Hitzewallungen (www.gracecooling.com), Tampons, die künftig zur Diagnose von Gebärmutterkrebs oder anderen Erkrankungen genutzt werden sollen (www.nextgenjane.com), oder ein mit Biosensoren ausgestatteter BH zur Früherkennung von Brustkrebs.

2013 flossen laut Pitchbook Data nur etwa 100 Millionen US-Dollar Fördergeld in Femtech-Unternehmen. 2020 soll die Investitionssumme hierfür mehr als 1 Milliarde US-Dollar betragen und laut Frost & Sullivan bis 2025 auf 50 Milliarden US-Dollar wachsen.

Die Digital- und Technologiebranche hat Frauen lange Zeit weder als Gründerinnen noch als Zielgruppe wahrgenommen. Gründerinnen sind in der Start-up-Szene immer noch rar und werden auch bei der Finanzierung ihrer Unternehmen benachteiligt. Nur knapp zehn Prozent des gesamten investierten Risikokapitals sind bislang in Start-ups von Frauen geflossen (www.womenwhotech.com/about). Dies wird unter anderem auf das starke Ungleichgewicht zwischen männlichen und weiblichen Investoren zurückgeführt, denn circa neun von zehn Entscheidungsträgern bei US-amerikanischen Venture-Capital-Firmen sind laut der Beratungsfirma Deloitte Männer.

Zugleich werden in der Familie 80 Prozent der Haushaltsausgaben für Gesundheit von Frauen getätigt. Sie geben auch fast ein Drittel mehr für Gesundheitsprodukte und -dienstleistungen aus als Männer.

aerzteblatt.de

Frauen in der Medizin

Interviews mit drei Ärztinnen zur Rolle der Frauen im Gesundheitswesen und der Medizin

<b>Frauen</b> in der Medizin Start

Video

Frauen in der Medizin

www.aerzteblatt.de/video25172

Leserkommentare

E-Mail
Passwort

Registrieren

Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.

Themen:

Fachgebiet

Zum Artikel

Anzeige

Alle Leserbriefe zum Thema