Künstliche Intelligenz sei vielversprechend für die Verbesserung der Gesundheitsversorgung und Medizin weltweit, aber nur, wenn Ethik und Menschenrechte in den Mittelpunkt ihrer Gestaltung und ihrer Nutzung gestellt werden – so betont die Weltgesundheitsorganisation.
Die Weltgesundheitsorganisation (WHO) hat Ende Juni eine umfangreiche Analyse sowie Richtlinien zum Einsatz von künstlicher Intelligenz (KI) im Zusammenhang mit Gesundheit veröffentlicht. KI-Ansätze würden „ein enormes Potenzial zur Verbesserung der Gesundheit von Millionen von Menschen auf der ganzen Welt“ bieten, sagte Dr. Tedros Adhanom Ghebreyesus, Generaldirektor der WHO. Er verwies aber auch darauf, dass KI-Anwendungen, wie jede Technologie, auch missbraucht werden und Schaden anrichten könnten.
In ihrem ersten weltweiten Bericht über KI – das Ergebnis einer zweijährigen Konsultation eines von der WHO ernannten Gremiums internationaler Expertinnen und Experten – mahnt die WHO daher, dass die Autonomie des Menschen stets gewahrt bleiben müsse. Menschen sollten auch weiterhin sowohl Gesundheitssysteme kontrollieren als auch die endgültigen medizinischen Entscheidungen treffen.
In der WHO-Analyse wird darauf hingewiesen, dass diverse KI-Instrumente von einigen Ländern bereits eingesetzt werden. Etwa, um die Geschwindigkeit und Genauigkeit der Diagnose und des Screenings auf Krankheiten zu verbessern, um bei der klinischen Versorgung zu helfen, zur Stärkung der Gesundheitsforschung und Arzneimittelentwicklung sowie zur Unterstützung verschiedener Interventionen im Bereich der öffentlichen Gesundheit – wie Krankheitsüberwachung, Reaktion auf Ausbrüche und Management von Gesundheitssystemen.
KI könnte Patientinnen und Patienten auch in die Lage versetzen, ihre eigene Gesundheitsversorgung besser zu kontrollieren und ihre sich entwickelnden Bedürfnisse besser zu verstehen. Zudem könnten KI-Tools insbesondere ressourcenarmen Ländern und ländlichen Gemeinden, in denen Patienten oft nur eingeschränkten Zugang zu Gesundheitspersonal oder medizinischem Fachpersonal haben, ermöglichen, Lücken beim Zugang zu Gesundheitsdiensten zu schließen.
Warnung vor Risiken
In der 165-seitigen Analyse der WHO wird jedoch auch davor gewarnt, den Nutzen von KI für die Gesundheit zu überschätzen, insbesondere wenn dies zulasten der Kerninvestitionen und Strategien geht, die für eine allgemeine Gesundheitsversorgung erforderlich sind.
Herausforderungen bestünden auch bei Verhinderung von einer möglichen unethischen Erhebung und Verwendung von Gesundheitsdaten. Warnungen spricht die WHO zudem angesichts denkbarer Risiken für die Patientensicherheit durch in den KI-Algorithmen codierte Verzerrungen oder durch mangelnde Cybersicherheit aus. Grundsätzlich müssten KI-Systeme auch sorgfältig entworfen werden, um die Vielfalt der sozioökonomischen und gesundheitsbezogenen Einstellungen angemessen widerspiegeln zu können.
Keinesfalls dürfe ein unregulierter Einsatz von KI die Rechte und Interessen von Patienten und Gesamtgesellschaft den kommerziellen Interessen von Technologieunternehmen oder den Interessen von Regierungen unterordnen. André Haserück
KI-Prinzipien der WHO
- Schutz der menschlichen Autonomie: Im Kontext der Gesundheitsversorgung sollte der Mensch die Kontrolle über Gesundheitssysteme und medizinische Entscheidungen behalten. Privatsphäre und Vertraulichkeit sollten geschützt werden, und die Patienten müssten durch geeignete rechtliche Datenschutz-Rahmenbedingungen nach Aufklärung eine gültige Einwilligung geben.
- Sicherheit: Die Entwickler von KI-Technologien sollen regulatorische Anforderungen an Sicherheit, Genauigkeit und Wirksamkeit für genau definierte Anwendungsfälle oder Indikationen erfüllen. Es müssten Maßnahmen zur Qualitätskontrolle in der Praxis und zur Qualitätsverbesserung beim KI-Einsatz vorhanden sein.
- Gewährleistung von Transparenz: Transparenz erfordere, dass ausreichende Informationen veröffentlicht werden, bevor eine KI-Technologie bereitgestellt wird. Solche Informationen müssten leicht zugänglich sein und eine sinnvolle öffentliche Debatte darüber ermöglichen, wie die Technologie konzipiert ist und wie sie verwendet werden soll oder nicht.
- Verantwortung und Rechenschaftspflicht: Es liege in der Verantwortung der Stakeholder, sicherzustellen, dass KI-Anwendungen unter angemessenen Bedingungen und von entsprechend geschulten Personen eingesetzt werden. Es sollten Mechanismen zur Wiedergutmachung von Personen zur Verfügung stehen, die möglicherweise durch Entscheidungen auf der Grundlage von Algorithmen beeinträchtigt werden.
- Inklusion und Gerechtigkeit sicherstellen: KI für die Gesundheit müsse so konzipiert sein, dass sie die größtmögliche gerechte Nutzung und möglichst gleichberechtigten Zugang fördert.
- Nachhaltige KI: Designer, Entwickler und Nutzer sollten KI-Anwendungen während der Nutzung kontinuierlich und transparent bewerten, um festzustellen, ob KI angemessen auf Erwartungen und Anforderungen reagiert. KI-Systeme sollten umweltschonend und energieeffizient konzipiert sein.
