Politik
Künstliche Intelligenz: Forschungslücken in Genderfragen
Dienstag, 17. Dezember 2019
Berlin – Noch immer spielen Frauen bei der Digitalisierung des Gesundheitswesens nur eine untergeordnete Rolle, die E-Health-Szene ist stark männlich dominiert. Das betrifft auch die Forschung zur künstlichen Intelligenz (KI) in der Medizin. Das Netzwerk „sheHealth – Women in Digital Health“ will das ändern und das Bewusstsein für geschlechtsspezifische Fragen schärfen.
Rund 100 Teilnehmerinnen und auch einige Teilnehmer waren der Einladung des Netzwerks in die historische Hörsaalruine der Charité gefolgt, um über das Thema Frauen und künstliche Intelligenz (KI) in der Medizin zu diskutieren. Dabei ging es einerseits um die Datenbasis für KI-basierte Modelle und Systeme, andererseits aber auch um die KI-Entwicklung selbst, denn in beiden Bereichen sind Frauen unterrepräsentiert.
„1810 fing hier der Lehrbetrieb an, und 111 Jahre später durfte die erste Frau Medizin an der Charité studieren“, berichtete Sylvia Thun, eine der Initiatorinnen des Netzwerks. 1913 gab es mit Rahel Hirsch die erste Professorin dort. Zwar durfte sie nicht Vorlesungen halten und bekam auch kein Gehalt, aber sie durfte forschen.
Geschlechtsspezifische Ungleichgewichte gibt es auch heute noch: Trotz des Anteils von 73 Prozent Medizinstudentinnen im ersten Semester an der Charité seien weiterhin nur zehn Prozent der Leitungsfunktionen in der Medizin mit Frauen besetzt. Außerdem gebe es ein „Gender-Pay-Gap“ von 38 Prozent in der Medizin, betonte Thun.
Man habe es mit einem „doppelten Problem“ zu tun, bekräftigte Maria Klein-Schmeink, gesundheitspolitische Sprecherin der Grünen im Bundestag. „Einmal mit dem Problem überhaupt von Gendermedizin“ sowohl in Forschung und Versorgung. Zum anderen, weil Frauen „in fast allen Entscheidungsgremien des Gesundheitssystems, in allen Formen der Selbstverwaltung im Grunde entweder nicht oder nur spärlich vorkommen“.
Da müsse sich etwas ändern, weil die Versorgung an dieser Stelle – da nicht gendergerecht – eine Fehlversorgung sei. Patienten seien letztlich „Objekt von einer sehr stark männlich geprägten Versorgungs- und Selbstverwaltungslandschaft“.
Auf die Datenbasis kommt es an
„Es gibt in der Medizin seit langem ein Problem mit der Datenbasis von Studien“, betonte Brigitte Strahwald, Ärztin und Epidemiologin an der Ludwig-Maximilians-Universität München. So stellen in Studien, etwa zur Zulassung neuer Wirkstoffe, weiße Männer mittleren Alters in der Regel die Mehrheit unter den Teilnehmenden.
Das gelte auch für die KI-Forschung mit ihrem Bedarf an großen Datenmengen. Eine substanzielle wissenschaftliche Aufarbeitung für die Verknüpfung von KI im Gesundheitswesen unter dem Aspekt der Genderperspektive fehle bislang. „Das ist ein blinder Fleck, auf den wir fokussieren wollen“, konstatierte Strahwald.
KI werde beispielsweise genutzt, um Röntgenbilder automatisch zu erkennen und im Hinblick auf Auffälligkeiten und krankhafte Veränderungen zu bewerten. Befunde werden automatisch eingelesen und daraus die Informationen automatisch extrahiert und eingeteilt. „Dahinter stecken technische Entwicklungen, die nicht singulär verwendet werden“, erläuterte sie. Erst die Verknüpfungen verschiedener Technologien ermöglichten den echten Mehrwert von KI.
Von besonderer Bedeutung, etwa in der Mustererkennung, ist ihr zufolge das Machine Learning. Hierfür seien in der Regel viele Daten nötig, die zu einem Daten-Set aufbereitet werden. Das Daten-Set werde aufgeteilt in Test- und Trainingsdaten mit dem Ziel, ein Modell oder einen Algorithmus zu entwickeln, der bei bestimmten Aufgaben wie etwa der Einteilung von Röntgenbildern hilft. Mit den Daten werden hochdimensionale statistische Modelle trainiert und laufend verbessert. „KI ist im wesentlichen Statistik“, betonte die Expertin.
Viele Fehlerquellen
Fehlerquellen gibt es indes viele. Wenn ein Gender-Bias in der Datenbasis enthalten ist, werde dieser reproduziert, meinte sie. Zudem gebe es Datensätze, bei denen Frauen unterrepräsentiert oder Männer und Frauen nicht getrennt ausgewiesen seien. Das könne zu Verzerrungen führen. Oft gebe es in der Klinik Hinweise auf einen Gender-Bias, aber die Suche danach sei zumeist zu aufwendig, denn zur Überprüfung bräuchte man die Ursprungsdaten oder die Algorithmen.
Einige Beispiele für Geschlechterunterschiede in der Medizin präsentierte Sabine Oertel-Prigione, Radboud-Universität Nijmegen. So können Frauen unterschiedliche Symptome beim Herzinfarkt haben. Bei den meisten Frauen seien die Symptome indes ähnlich wie beim Mann, aber „die Wahrscheinlichkeit, dass die Symptome nicht vorhanden sind, sind bei Frauen häufiger“, präzisierte sie.
Fast alle Autoimmunerkrankungen treten zudem bei Frauen häufiger als bei Männern auf. Von den über 70-Jährigen, die einen Knochenbruch erleiden, sind ein Drittel Frauen mit Osteoporose und immerhin ein Fünftel Männer mit Osteoporose. Gescreent würden allerdings nur Frauen, weil Osteoporose als „Erkrankung der postmenopausalen Frau“ gelte, berichtete die Gendermedizinexpertin.
Gender als komplexes Konstrukt
Gehe es nur um das biologische Geschlecht, sei es noch relativ einfach, etwa Chromosomen oder Hormone zu erfassen und binär zu schreiben. „Wenn es um Gender geht, wird es kompliziert“, meinte sie. Dabei handele es sich um ein komplexes Konzept aus den Sozialwissenschaften, das für die Medizin aufzubereiten sei. Es gehe dabei um Identitäten, Rollen, Beziehungen und Institutionen.
Zum Netzwerk
Das Netzwerk „sheHealth – Women in Digital Health“ ist ein bundesweiter Zusammenschluss von Frauen aus dem Bereich Digital Health, laut Sylvia Thun „eine freie Community, die mit vielen anderen Netzwerken kooperiert“. Die Beteiligten kommen unter anderem aus Universitäten, Kliniken, Fachgesellschaften und Berufsverbänden. Ziel ist es, die Digitalisierung im Gesundheitsbereich aktiv mitzugestalten. Das Netzwerk hat inzwischen 120 Mitglieder.
„Die erste Frage ist daher: Was erfassen wir überhaupt?“ Das sei wichtig für die Umsetzung der Konzepte in KI. Und: „Was passiert, wenn die Algorithmen Daten gebrauchen, die schon lange im Umlauf sind?“ So reagieren ihr zufolge beispielsweise Chatbots auf Symptomangaben unterschiedlich, je nachdem, ob sie von einem Mann oder einer Frau stammen.
Der Mann werde mit Verdacht etwa auf instabile Angina oder Herzinfarkt an die Rettungsstelle, die Frau hingegen mit dem Verdacht auf eine Panikattacke oder Depressivität an den Hausarzt verwiesen. Dieses Beispiel verdeutliche, wie die Algorithmen trainiert wurden – und wie der Bias sich fortsetze. „Wir brauchen Datensätze, die diesen Geschlechter-Bias gar nicht enthalten“, erklärte Oertel-Prigione.
Datensicherheit in diesem Kontext
Darüber hinaus spielt der Aspekt der Datensicherheit im Hinblick auf Daten zu Geschlechteridentität und sexueller Orientierung eine große Rolle, weil diese Daten, auch mit Blick auf andere Länder, potenziell ein hohes Risiko für die Patienten darstellen könnten. „Wir brauchen diese Daten, damit wir die Versorgung verbessern können und damit wir den Bias nicht weiter erhalten. Aber wir müssen sicherstellen, dass diese Daten sicher sind“, forderte sie.
Laut Veronika Thiel von der gemeinnützigen Organisation AlgorithmWatch bieten Algorithmen und KI künftig viele Möglichkeiten zur schnelleren Diagnose und richtigen Behandlung. Sie verwies unter anderem auf die Nutzung von Wearables und Apps, um einfacher eine breitere Datenbasis für Forschungsfragen zu erhalten. Allerdings sei dies keinesfalls ein Ersatz für klinische Studien. Zudem könnte ihr zufolge das im Digitale-Versorgung-Gesetz (DVG) geplante Forschungsdatenzentrum künftig dazu beitragen, Variationen in Behandlungen aufzudecken und gezielt einzugreifen.
Enquete-Kommission zu KI
Maria Klein-Schmeink verwies auf die bestehende Enquete-Kommission im Bundestag zu Chancen und Risiken von KI. Diese habe sich auch mit dem Themenfeld Gesundheit befasst. Die betreffende Arbeitsgruppe habe ihre Arbeit bereits abgeschlossen, dürfe die Ergebnisse aber erst im Kontext der Gesamtergebnisse Ende des nächsten Jahres veröffentlichen.
Absehbar sei jedoch, dass der KI-Einsatz im Gesundheitswesen all die Mängel aufweise, die insgesamt für die Digitalisierung im Gesundheitswesen festzustellen seien. Eine strategische Betrachtung hierzu fehle, ebenso ein Prozess, in den alle Akteure einbezogen wären. Von Partizipation könne nicht die Rede sein, bestimmte Gruppen würden systematisch nicht vorkommen, kritisierte die Politikerin.
aerzteblatt.de
- Darmkrebs: Vorsorgezeitraum für Frauen sollte verlängert werden
- Migräne: Geschlecht relevant für kardiovaskuläre Gesundheit
- Männer leben länger, wenn Frauen ihnen gleichgestellt sind
- Frauen mit Diabetes stärker für Herzinsuffizienz gefährdet als männliche Patienten
- Gendereffekt: Diabetes bei Frauen schlimmer
Der Bereich Forschung und KI ist ihrer Ansicht nach gesetzlich noch nicht geregelt. „Der Gesetzgeber hat bislang bestenfalls Möglichkeiten geschaffen, aber keinen strukturierten Einsatz.“ Mit dem DVG würden künftig auch Versorgungsdaten, das heißt die Abrechnungsdaten der Krankenkassen, für die Forschung zugänglich gemacht. „Dann haben wir auch da einen Bias.
Das kann ja immer nur die Widerspiegelung dessen sein, wie ein Gesundheitssystem wahrgenommen, in Anspruch genommen und wie abgerechnet worden ist“, meinte sie. Das sage noch nichts über die Qualität der datengestützten Aussagen aus. Die Versorgungsdaten alleine könnten nicht all das gewährleisten, was an Versprechungen und großem Hype damit verbunden werde.
Für Transparenz sorgen
Ihr Fazit: „Wir müssen ein ähnliches Vorgehen wählen wie bei der Antidiskriminierung insgesamt.“ Dazu zähle insbesondere, für Transparenz zu sorgen, etwa im Hinblick darauf, wer mit welchem Interesse Daten erhoben habe. Auch sei beim Einsatz von KI die „Sicherstellung der geschlechtergerechten Leistungserbringung“ nötig. Im weiteren politischen Vorgehen sollten diese und weitere Forderungen mit in Gesetzgebungsverfahren einbezogen werden, meinte sie.
Die in verschiedenen Workshops erarbeiteten Ansätze, Anforderungen und Impulse sollen in ein Memorandum für eine geschlechtergerechte KI im Gesundheitswesen fließen, das Anfang 2020 veröffentlicht werden soll. © KBr/aerzteblatt.de

Wer in der Medizin
Sowohl Tarifverträge als auch Gebührenordnungen sind "genderneutral"
Um einen Arzt - niedergelassen oder angestellt - zu ersetzen, sind 1.5 Ärztinnen erforderlich....
Sowohl höheres Einkommen wie auch leitende Positionen sind mit mehr aufzubringender Arbeitszeit verbunden, die zu leisten Frauen augenscheinlich nicht willens sind.
Mit "Gender" hat das nichts zu tun...

Nachrichten zum Thema



Leserkommentare
Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.