Geschlechtersensible Standards beim Training von Künstlicher Intelligenz notwendig

Berlin – Der Einsatz von Künstlicher Intelligenz (KI) im Gesundheitswesen muss konsequent am Wohl der Patienten orientiert sein. Das mahnt der Deutsche Ärztinnenbund (DÄB) an.

Gerade für unterversorgte Regionen könne KI zu mehr Versorgungsgerechtigkeit beitragen, indem sie Diagnostik, Therapie und Prävention sinnvoll unterstütze und langfristig zu einer gerechteren Versorgung beitrage, heißt es in einer neuen Stellungnahme der Ausschüsse „Geschlechtersensible Medizin“ und „Ethik“ des Verbandes.

Aber damit dieses Potenzial allen zugutekomme, müssten Qualität, Transparenz und Geschlechtersensibilität von Anfang an mitgedacht werden. Besonders kritisch sehen die Autorinnen den Gender Bias in medizinischen KI-Systemen. Dieser entstehe unter anderem durch unausgewogene Trainingsdaten, männlich dominierte Entwicklungsteams und sogenannte Black-Box-Systeme.

„Der Gender Bias in medizinischer KI ist kein technisches Randproblem, sondern eine Frage der Sicherheit von Patienten und insbesondere Patientinnen“, sagte Brigitte Strahwald, Vorsitzende des Ausschusses Geschlechtersensible Medizin beim DÄB. „Wenn Frauen in Datensätzen unterrepräsentiert sind oder geschlechterspezifische Unterschiede nicht berücksichtigt werden, entstehen reale Risiken für Diagnostik und Therapie“, betonte sie.

Der DÄB fordert daher verbindliche Standards für die geschlechtersensible Datenerhebung, transparente Trainingsdaten und den Nachweis, dass KI-Anwendungen auch für Frauen wirksam und sicher sind. Zudem müsse die Beteiligung von Frauen in der Forschung und Entwicklung von KI-Anwendungen gezielt gestärkt und gefördert werden, hieß es aus dem Verband.

Der DÄB betont zudem die ärztliche Letztverantwortung. „Gerade bei sensiblen medizinischen Entscheidungen braucht es Transparenz, menschliche Verantwortung und die Fähigkeit, algorithmische Empfehlungen kritisch zu hinterfragen“, so Gabriele du Bois, Vorsitzende des Ausschusses Ethik.

Der Verband fordert außerdem, in der Aus-, Weiter- und Fortbildung mehr Hintergrundwissen zu KI zu vermitteln. „Ärztinnen und Ärzte müssen künftig in der Lage sein, algorithmische Empfehlungen kritisch zu bewerten, Bias zu erkennen und Patientinnen und Patienten kompetent aufzuklären“, hieß es aus dem Ärztinnenbund.

hil