NewsPolitikKünstliche Intelligenz: Forschungslücken in Genderfragen
Als E-Mail versenden...
Auf facebook teilen...
Twittern...
Drucken...

Politik

Künstliche Intelligenz: Forschungslücken in Genderfragen

Dienstag, 17. Dezember 2019

/leowolfert, stockadobecom

Berlin – Noch immer spielen Frauen bei der Digitalisierung des Gesundheitswesens nur eine untergeordnete Rolle, die E-Health-Szene ist stark männlich dominiert. Das betrifft auch die Forschung zur künstlichen Intelligenz (KI) in der Medizin. Das Netzwerk „she­Health – Women in Digital Health“ will das ändern und das Bewusstsein für geschlechts­spezifische Fragen schärfen.

Rund 100 Teilnehmerinnen und auch einige Teilnehmer waren der Einladung des Netz­werks in die historische Hörsaalruine der Charité gefolgt, um über das Thema Frauen und künstliche Intelligenz (KI) in der Medizin zu diskutieren. Dabei ging es einerseits um die Datenbasis für KI-basierte Modelle und Systeme, andererseits aber auch um die KI-Ent­wicklung selbst, denn in beiden Bereichen sind Frauen unterrepräsentiert.

Anzeige

„1810 fing hier der Lehrbetrieb an, und 111 Jahre später durfte die erste Frau Medizin an der Charité studieren“, berichtete Sylvia Thun, eine der Initiatorinnen des Netzwerks. 1913 gab es mit Rahel Hirsch die erste Professorin dort. Zwar durfte sie nicht Vorlesun­gen halten und bekam auch kein Gehalt, aber sie durfte forschen.

Geschlechtsspezifische Ungleichgewichte gibt es auch heute noch: Trotz des Anteils von 73 Prozent Medizinstudentinnen im ersten Semester an der Charité seien weiterhin nur zehn Prozent der Leitungsfunktionen in der Medizin mit Frauen besetzt. Außerdem gebe es ein „Gender-Pay-Gap“ von 38 Prozent in der Medizin, betonte Thun.

Man habe es mit einem „doppelten Problem“ zu tun, bekräftigte Maria Klein-Schmeink, gesundheitspoli­ti­sche Sprecherin der Grünen im Bundestag. „Einmal mit dem Problem überhaupt von Gendermedizin“ sowohl in Forschung und Versorgung. Zum anderen, weil Frauen „in fast allen Entscheidungsgremien des Gesundheitssystems, in allen Formen der Selbstverwaltung im Grunde entweder nicht oder nur spärlich vorkommen“.

Da müsse sich etwas ändern, weil die Versorgung an dieser Stelle – da nicht genderge­recht – eine Fehlversorgung sei. Patienten seien letztlich „Objekt von einer sehr stark männlich geprägten Versorgungs- und Selbstverwaltungslandschaft“.

Auf die Datenbasis kommt es an

„Es gibt in der Medizin seit langem ein Problem mit der Datenbasis von Studien“, betonte Brigitte Strahwald, Ärztin und Epidemiologin an der Ludwig-Maximilians-Universität Mün­chen. So stellen in Studien, etwa zur Zulassung neuer Wirkstoffe, weiße Männer mittleren Alters in der Regel die Mehrheit unter den Teilnehmenden.

Das gelte auch für die KI-Forschung mit ihrem Bedarf an großen Datenmengen. Eine sub­stanzielle wissenschaftliche Aufarbeitung für die Verknüpfung von KI im Gesundheits­we­sen unter dem Aspekt der Genderperspektive fehle bislang. „Das ist ein blinder Fleck, auf den wir fokussieren wollen“, konstatierte Strahwald.

KI werde beispielsweise genutzt, um Röntgenbilder automatisch zu erkennen und im Hin­blick auf Auffälligkeiten und krankhafte Veränderungen zu bewerten. Befunde werden au­tomatisch eingelesen und daraus die Informationen automatisch extrahiert und einge­teilt. „Dahinter stecken technische Entwicklungen, die nicht singulär verwendet werden“, erläuterte sie. Erst die Verknüpfungen verschiedener Technologien ermöglichten den ech­ten Mehrwert von KI.

Von besonderer Bedeutung, etwa in der Mustererkennung, ist ihr zufolge das Machine Learning. Hierfür seien in der Regel viele Daten nötig, die zu einem Daten-Set aufbereitet werden. Das Daten-Set werde aufgeteilt in Test- und Trainingsdaten mit dem Ziel, ein Mo­dell oder einen Algorithmus zu entwickeln, der bei bestimmten Aufgaben wie etwa der Einteilung von Röntgenbildern hilft. Mit den Daten werden hochdimensionale statistische Modelle trainiert und laufend verbessert. „KI ist im wesentlichen Statistik“, betonte die Expertin.

Viele Fehlerquellen

Fehlerquellen gibt es indes viele. Wenn ein Gender-Bias in der Datenbasis enthalten ist, werde dieser reproduziert, meinte sie. Zudem gebe es Datensätze, bei denen Frauen un­ter­repräsentiert oder Männer und Frauen nicht getrennt ausgewiesen seien. Das könne zu Verzerrungen führen. Oft gebe es in der Klinik Hinweise auf einen Gender-Bias, aber die Suche danach sei zumeist zu aufwendig, denn zur Überprüfung bräuchte man die Ur­sprungsdaten oder die Algorithmen.

Einige Beispiele für Geschlechterunterschiede in der Medizin präsentierte Sabine Oertel-Prigione, Radboud-Universität Nijmegen. So können Frauen unterschiedliche Symptome beim Herzinfarkt haben. Bei den meisten Frauen seien die Symptome indes ähnlich wie beim Mann, aber „die Wahrscheinlichkeit, dass die Symptome nicht vorhanden sind, sind bei Frauen häufiger“, präzisierte sie.

Fast alle Autoimmunerkrankungen treten zudem bei Frauen häufiger als bei Männern auf. Von den über 70-Jährigen, die einen Knochenbruch erleiden, sind ein Drittel Frauen mit Osteoporose und immerhin ein Fünftel Männer mit Osteoporose. Gescreent würden aller­dings nur Frauen, weil Osteoporose als „Erkrankung der postmenopausalen Frau“ gelte, berichtete die Gendermedizinexpertin.

Gender als komplexes Konstrukt

Gehe es nur um das biologische Geschlecht, sei es noch relativ einfach, etwa Chromoso­men oder Hormone zu erfassen und binär zu schreiben. „Wenn es um Gender geht, wird es kompliziert“, meinte sie. Dabei handele es sich um ein komplexes Konzept aus den Sozialwissenschaften, das für die Medizin aufzubereiten sei. Es gehe dabei um Identitä­ten, Rollen, Beziehungen und Institutionen.

Zum Netzwerk

Das Netzwerk „sheHealth – Women in Digital Health“ ist ein bundesweiter Zusammen­schluss von Frauen aus dem Bereich Digital Health, laut Sylvia Thun „eine freie Commu­ni­ty, die mit vielen anderen Netzwerken kooperiert“. Die Beteiligten kommen unter ande­rem aus Universitäten, Kliniken, Fachgesellschaften und Berufsverbänden. Ziel ist es, die Digitalisierung im Gesundheitsbereich aktiv mitzugestalten. Das Netzwerk hat inzwischen 120 Mitglieder.

„Die erste Frage ist daher: Was erfassen wir überhaupt?“ Das sei wichtig für die Umset­zung der Konzepte in KI. Und: „Was passiert, wenn die Algorithmen Daten gebrauchen, die schon lange im Umlauf sind?“ So reagieren ihr zufolge beispielsweise Chatbots auf Symptomangaben unterschiedlich, je nachdem, ob sie von einem Mann oder einer Frau stammen.

Der Mann werde mit Verdacht etwa auf instabile Angina oder Herzinfarkt an die Rettungs­stelle, die Frau hingegen mit dem Verdacht auf eine Panikattacke oder De­pressivität an den Hausarzt verwiesen. Dieses Beispiel verdeutliche, wie die Algorithmen trainiert wurden – und wie der Bias sich fortsetze. „Wir brauchen Datensätze, die diesen Geschlechter-Bias gar nicht enthalten“, erklärte Oertel-Prigione.

Datensicherheit in diesem Kontext

Darüber hinaus spielt der Aspekt der Datensicherheit im Hinblick auf Daten zu Ge­schlech­teridentität und sexueller Orientierung eine große Rolle, weil diese Daten, auch mit Blick auf andere Länder, potenziell ein hohes Risiko für die Patienten darstellen könnten. „Wir brauchen diese Daten, damit wir die Versorgung verbessern können und damit wir den Bias nicht weiter erhalten. Aber wir müssen sicherstellen, dass diese Daten sicher sind“, forderte sie.

Laut Veronika Thiel von der gemeinnützigen Organisation AlgorithmWatch bieten Algo­rithmen und KI künftig viele Möglichkeiten zur schnelleren Diagnose und richtigen Be­handlung. Sie verwies unter anderem auf die Nutzung von Wearables und Apps, um ein­facher eine breitere Datenbasis für Forschungsfragen zu erhalten. Allerdings sei dies keinesfalls ein Ersatz für klinische Studien. Zudem könnte ihr zufolge das im Digitale-Versorgung-Gesetz (DVG) geplante Forschungsdatenzentrum künftig dazu beitragen, Variationen in Behandlungen aufzudecken und gezielt einzugreifen.

Enquete-Kommission zu KI

Maria Klein-Schmeink verwies auf die bestehende Enquete-Kommission im Bundestag zu Chancen und Risiken von KI. Diese habe sich auch mit dem Themenfeld Gesundheit be­fasst. Die betreffende Arbeitsgruppe habe ihre Arbeit bereits abgeschlossen, dürfe die Er­gebnisse aber erst im Kontext der Gesamtergebnisse Ende des nächsten Jahres veröffent­lichen.

Absehbar sei jedoch, dass der KI-Einsatz im Gesundheitswesen all die Mängel aufweise, die insgesamt für die Digitalisierung im Gesundheitswesen festzustellen seien. Eine stra­tegische Betrachtung hierzu fehle, ebenso ein Prozess, in den alle Akteure einbezogen wären. Von Partizipation könne nicht die Rede sein, bestimmte Gruppen würden syste­matisch nicht vorkommen, kritisierte die Politikerin.

Der Bereich Forschung und KI ist ihrer Ansicht nach gesetzlich noch nicht geregelt. „Der Gesetzgeber hat bislang bestenfalls Möglichkeiten geschaffen, aber keinen strukturierten Einsatz.“ Mit dem DVG würden künftig auch Versorgungsdaten, das heißt die Abrech­nungs­­daten der Krankenkassen, für die Forschung zugänglich gemacht. „Dann haben wir auch da einen Bias.

Das kann ja immer nur die Widerspiegelung dessen sein, wie ein Gesundheitssystem wahr­genommen, in Anspruch genommen und wie abgerechnet worden ist“, meinte sie. Das sage noch nichts über die Qualität der datengestützten Aussagen aus. Die Versor­gungs­daten alleine könnten nicht all das gewährleisten, was an Versprechungen und großem Hype damit verbunden werde.

Für Transparenz sorgen

Ihr Fazit: „Wir müssen ein ähnliches Vorgehen wählen wie bei der Antidiskriminierung ins­gesamt.“ Dazu zähle insbesondere, für Transparenz zu sorgen, etwa im Hinblick darauf, wer mit welchem Interesse Daten erhoben habe. Auch sei beim Einsatz von KI die „Sicher­stellung der geschlechtergerechten Leistungserbringung“ nötig. Im weiteren po­litischen Vorgehen sollten diese und weitere Forderungen mit in Gesetzgebungsverfahren einbezogen werden, meinte sie.

Die in verschiedenen Workshops erarbeiteten Ansätze, Anforderungen und Impulse sollen in ein Memorandum für eine geschlechtergerechte KI im Gesundheitswesen fließen, das Anfang 2020 veröffentlicht werden soll. © KBr/aerzteblatt.de

Leserkommentare

E-Mail
Passwort

Registrieren

Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.

Avatar #79783
Practicus
am Dienstag, 17. Dezember 2019, 22:33

Wer in der Medizin

beim Einkommen und in Leitungsfunktionen "unterrepräsentiert" ist, WILL DAS SO!
Sowohl Tarifverträge als auch Gebührenordnungen sind "genderneutral"
Um einen Arzt - niedergelassen oder angestellt - zu ersetzen, sind 1.5 Ärztinnen erforderlich....
Sowohl höheres Einkommen wie auch leitende Positionen sind mit mehr aufzubringender Arbeitszeit verbunden, die zu leisten Frauen augenscheinlich nicht willens sind.
Mit "Gender" hat das nichts zu tun...
Avatar #555822
j.g.
am Dienstag, 17. Dezember 2019, 22:15

superwichtiger Beitrag

Was sagt uns dieser lange Artikel:Nichts Neues!
Dringende Forderung: mehr weibliche Computer einstellen.
Avatar #731782
astridschulze@massai.dk
am Dienstag, 17. Dezember 2019, 21:20

Gender und Hirn

Das Problem wird sich von allein verschwinden - wenn erstmal die vielen maennlichen Krankenbrueder aus den Philipinnen in Berlin gelandet sind, um die Patienten in der Charite zu pflegen.
LNS

Nachrichten zum Thema

7. Juli 2020
Berlin – Im Zusammenhang mit der Störung der Tele­ma­tik­infra­struk­tur (TI) droht unter Umständen ein langwieriger Rechtsstreit. Die Gematik sieht sich als für den Aufbau der TI verantwortliche
Gematik droht langwieriger Rechtsstreit wegen TI-Störung
3. Juli 2020
Berlin – Die Digitalisierung im Gesundheitswesen kommt einen weiteren Schritt voran. Der Bundestag hat heute dem Patientendatenschutzgesetz (PDSG) zugestimmt, mit dem nun verbindliche Regelungen zur
Elektronische Patientenakte nimmt nächste Hürde
3. Juli 2020
Berlin – Die Kassenärztliche Bundesvereinigung (KBV) appelliert eindringlich an alle Ärzte und Psychotherapeuten, sich rechtzeitig um die nötige Technik für die kommenden Anwendungen der
Was Ärzte jetzt für die Tele­ma­tik­infra­struk­tur brauchen
3. Juli 2020
Berlin – Fast drei Viertel der Deutschen befürworten die geplante elektronische Patientenakte (ePA). Laut einer heute in Berlin veröffentlichten Umfrage des Bundesverbandes der Arzneimittel-Hersteller
Viele Deutsche befürworten elektronische Patientenakte
1. Juli 2020
Berlin – Zur Verbesserung der Versorgungsqualität sollen künftig auch die Kassenärztlichen Vereinigungen wie auch die Kassenärztliche Bundesvereinigung (KBV) digitale Innovationen fördern und diese
KBV soll digitale Innovationen finanziell fördern können
1. Juli 2020
Berlin – Im Zusammenhang mit der Coronapandemie hat die Digitalisierung der Medizin in Deutschland einen „erheblichen Schub“ erfahren. Diese Zwischenbilanz der vergangenen Monate zog Klaus Reinhardt,
Bundesärztekammer erwartet weiteren Digitalisierungsschub
1. Juli 2020
Berlin – Die Coronakrise hat telemedizinische Anwendungen verstärkt in den Blick gerückt. Auch in der Suchttherapie gewinnen Möglichkeiten der kontaktlosen Behandlung zunehmend an Bedeutung, wenn auch
LNS LNS LNS

Fachgebiet

Stellenangebote

    Anzeige

    Weitere...

    Aktuelle Kommentare

    Archiv

    NEWSLETTER