Künstliche Intelligenz: Forschungslücken in Genderfragen

/leowolfert, stockadobecom

Berlin – Noch immer spielen Frauen bei der Digitalisierung des Gesundheitswesens nur eine untergeordnete Rolle, die E-Health-Szene ist stark männlich dominiert. Das betrifft auch die Forschung zur künstlichen Intelligenz (KI) in der Medizin. Das Netzwerk „she­Health – Women in Digital Health“ will das ändern und das Bewusstsein für geschlechts­spezifische Fragen schärfen.

Rund 100 Teilnehmerinnen und auch einige Teilnehmer waren der Einladung des Netz­werks in die historische Hörsaalruine der Charité gefolgt, um über das Thema Frauen und künstliche Intelligenz (KI) in der Medizin zu diskutieren. Dabei ging es einerseits um die Datenbasis für KI-basierte Modelle und Systeme, andererseits aber auch um die KI-Ent­wicklung selbst, denn in beiden Bereichen sind Frauen unterrepräsentiert.

„1810 fing hier der Lehrbetrieb an, und 111 Jahre später durfte die erste Frau Medizin an der Charité studieren“, berichtete Sylvia Thun, eine der Initiatorinnen des Netzwerks. 1913 gab es mit Rahel Hirsch die erste Professorin dort. Zwar durfte sie nicht Vorlesun­gen halten und bekam auch kein Gehalt, aber sie durfte forschen.

Geschlechtsspezifische Ungleichgewichte gibt es auch heute noch: Trotz des Anteils von 73 Prozent Medizinstudentinnen im ersten Semester an der Charité seien weiterhin nur zehn Prozent der Leitungsfunktionen in der Medizin mit Frauen besetzt. Außerdem gebe es ein „Gender-Pay-Gap“ von 38 Prozent in der Medizin, betonte Thun.

Man habe es mit einem „doppelten Problem“ zu tun, bekräftigte Maria Klein-Schmeink, gesundheitspoli­ti­sche Sprecherin der Grünen im Bundestag. „Einmal mit dem Problem überhaupt von Gendermedizin“ sowohl in Forschung und Versorgung. Zum anderen, weil Frauen „in fast allen Entscheidungsgremien des Gesundheitssystems, in allen Formen der Selbstverwaltung im Grunde entweder nicht oder nur spärlich vorkommen“.

Da müsse sich etwas ändern, weil die Versorgung an dieser Stelle – da nicht genderge­recht – eine Fehlversorgung sei. Patienten seien letztlich „Objekt von einer sehr stark männlich geprägten Versorgungs- und Selbstverwaltungslandschaft“.

Auf die Datenbasis kommt es an

„Es gibt in der Medizin seit langem ein Problem mit der Datenbasis von Studien“, betonte Brigitte Strahwald, Ärztin und Epidemiologin an der Ludwig-Maximilians-Universität Mün­chen. So stellen in Studien, etwa zur Zulassung neuer Wirkstoffe, weiße Männer mittleren Alters in der Regel die Mehrheit unter den Teilnehmenden.

Das gelte auch für die KI-Forschung mit ihrem Bedarf an großen Datenmengen. Eine sub­stanzielle wissenschaftliche Aufarbeitung für die Verknüpfung von KI im Gesundheits­we­sen unter dem Aspekt der Genderperspektive fehle bislang. „Das ist ein blinder Fleck, auf den wir fokussieren wollen“, konstatierte Strahwald.

KI werde beispielsweise genutzt, um Röntgenbilder automatisch zu erkennen und im Hin­blick auf Auffälligkeiten und krankhafte Veränderungen zu bewerten. Befunde werden au­tomatisch eingelesen und daraus die Informationen automatisch extrahiert und einge­teilt. „Dahinter stecken technische Entwicklungen, die nicht singulär verwendet werden“, erläuterte sie. Erst die Verknüpfungen verschiedener Technologien ermöglichten den ech­ten Mehrwert von KI.

Von besonderer Bedeutung, etwa in der Mustererkennung, ist ihr zufolge das Machine Learning. Hierfür seien in der Regel viele Daten nötig, die zu einem Daten-Set aufbereitet werden. Das Daten-Set werde aufgeteilt in Test- und Trainingsdaten mit dem Ziel, ein Mo­dell oder einen Algorithmus zu entwickeln, der bei bestimmten Aufgaben wie etwa der Einteilung von Röntgenbildern hilft. Mit den Daten werden hochdimensionale statistische Modelle trainiert und laufend verbessert. „KI ist im wesentlichen Statistik“, betonte die Expertin.

Viele Fehlerquellen

Fehlerquellen gibt es indes viele. Wenn ein Gender-Bias in der Datenbasis enthalten ist, werde dieser reproduziert, meinte sie. Zudem gebe es Datensätze, bei denen Frauen un­ter­repräsentiert oder Männer und Frauen nicht getrennt ausgewiesen seien. Das könne zu Verzerrungen führen. Oft gebe es in der Klinik Hinweise auf einen Gender-Bias, aber die Suche danach sei zumeist zu aufwendig, denn zur Überprüfung bräuchte man die Ur­sprungsdaten oder die Algorithmen.

Einige Beispiele für Geschlechterunterschiede in der Medizin präsentierte Sabine Oertel-Prigione, Radboud-Universität Nijmegen. So können Frauen unterschiedliche Symptome beim Herzinfarkt haben. Bei den meisten Frauen seien die Symptome indes ähnlich wie beim Mann, aber „die Wahrscheinlichkeit, dass die Symptome nicht vorhanden sind, sind bei Frauen häufiger“, präzisierte sie.

Fast alle Autoimmunerkrankungen treten zudem bei Frauen häufiger als bei Männern auf. Von den über 70-Jährigen, die einen Knochenbruch erleiden, sind ein Drittel Frauen mit Osteoporose und immerhin ein Fünftel Männer mit Osteoporose. Gescreent würden aller­dings nur Frauen, weil Osteoporose als „Erkrankung der postmenopausalen Frau“ gelte, berichtete die Gendermedizinexpertin.

Gender als komplexes Konstrukt

Gehe es nur um das biologische Geschlecht, sei es noch relativ einfach, etwa Chromoso­men oder Hormone zu erfassen und binär zu schreiben. „Wenn es um Gender geht, wird es kompliziert“, meinte sie. Dabei handele es sich um ein komplexes Konzept aus den Sozialwissenschaften, das für die Medizin aufzubereiten sei. Es gehe dabei um Identitä­ten, Rollen, Beziehungen und Institutionen.

„Die erste Frage ist daher: Was erfassen wir überhaupt?“ Das sei wichtig für die Umset­zung der Konzepte in KI. Und: „Was passiert, wenn die Algorithmen Daten gebrauchen, die schon lange im Umlauf sind?“ So reagieren ihr zufolge beispielsweise Chatbots auf Symptomangaben unterschiedlich, je nachdem, ob sie von einem Mann oder einer Frau stammen.

Der Mann werde mit Verdacht etwa auf instabile Angina oder Herzinfarkt an die Rettungs­stelle, die Frau hingegen mit dem Verdacht auf eine Panikattacke oder De­pressivität an den Hausarzt verwiesen. Dieses Beispiel verdeutliche, wie die Algorithmen trainiert wurden – und wie der Bias sich fortsetze. „Wir brauchen Datensätze, die diesen Geschlechter-Bias gar nicht enthalten“, erklärte Oertel-Prigione.

Datensicherheit in diesem Kontext

Darüber hinaus spielt der Aspekt der Datensicherheit im Hinblick auf Daten zu Ge­schlech­teridentität und sexueller Orientierung eine große Rolle, weil diese Daten, auch mit Blick auf andere Länder, potenziell ein hohes Risiko für die Patienten darstellen könnten. „Wir brauchen diese Daten, damit wir die Versorgung verbessern können und damit wir den Bias nicht weiter erhalten. Aber wir müssen sicherstellen, dass diese Daten sicher sind“, forderte sie.

Laut Veronika Thiel von der gemeinnützigen Organisation AlgorithmWatch bieten Algo­rithmen und KI künftig viele Möglichkeiten zur schnelleren Diagnose und richtigen Be­handlung. Sie verwies unter anderem auf die Nutzung von Wearables und Apps, um ein­facher eine breitere Datenbasis für Forschungsfragen zu erhalten. Allerdings sei dies keinesfalls ein Ersatz für klinische Studien. Zudem könnte ihr zufolge das im Digitale-Versorgung-Gesetz (DVG) geplante Forschungsdatenzentrum künftig dazu beitragen, Variationen in Behandlungen aufzudecken und gezielt einzugreifen.

Enquete-Kommission zu KI

Maria Klein-Schmeink verwies auf die bestehende Enquete-Kommission im Bundestag zu Chancen und Risiken von KI. Diese habe sich auch mit dem Themenfeld Gesundheit be­fasst. Die betreffende Arbeitsgruppe habe ihre Arbeit bereits abgeschlossen, dürfe die Er­gebnisse aber erst im Kontext der Gesamtergebnisse Ende des nächsten Jahres veröffent­lichen.

Absehbar sei jedoch, dass der KI-Einsatz im Gesundheitswesen all die Mängel aufweise, die insgesamt für die Digitalisierung im Gesundheitswesen festzustellen seien. Eine stra­tegische Betrachtung hierzu fehle, ebenso ein Prozess, in den alle Akteure einbezogen wären. Von Partizipation könne nicht die Rede sein, bestimmte Gruppen würden syste­matisch nicht vorkommen, kritisierte die Politikerin.

Der Bereich Forschung und KI ist ihrer Ansicht nach gesetzlich noch nicht geregelt. „Der Gesetzgeber hat bislang bestenfalls Möglichkeiten geschaffen, aber keinen strukturierten Einsatz.“ Mit dem DVG würden künftig auch Versorgungsdaten, das heißt die Abrech­nungs­­daten der Krankenkassen, für die Forschung zugänglich gemacht. „Dann haben wir auch da einen Bias.

Das kann ja immer nur die Widerspiegelung dessen sein, wie ein Gesundheitssystem wahr­genommen, in Anspruch genommen und wie abgerechnet worden ist“, meinte sie. Das sage noch nichts über die Qualität der datengestützten Aussagen aus. Die Versor­gungs­daten alleine könnten nicht all das gewährleisten, was an Versprechungen und großem Hype damit verbunden werde.

Für Transparenz sorgen

Ihr Fazit: „Wir müssen ein ähnliches Vorgehen wählen wie bei der Antidiskriminierung ins­gesamt.“ Dazu zähle insbesondere, für Transparenz zu sorgen, etwa im Hinblick darauf, wer mit welchem Interesse Daten erhoben habe. Auch sei beim Einsatz von KI die „Sicher­stellung der geschlechtergerechten Leistungserbringung“ nötig. Im weiteren po­litischen Vorgehen sollten diese und weitere Forderungen mit in Gesetzgebungsverfahren einbezogen werden, meinte sie.

Die in verschiedenen Workshops erarbeiteten Ansätze, Anforderungen und Impulse sollen in ein Memorandum für eine geschlechtergerechte KI im Gesundheitswesen fließen, das Anfang 2020 veröffentlicht werden soll. © KBr/aerzteblatt.de