Fachleute für Aufbau von institutioneller Gesundheits-KI

Berlin – Als Alternative zu KI-Sprachmodellen großer Tech-Konzerne wünschen sich verschiedene Akteure des deutschen Gesundheitswesens eine Art gebündelte, moderne und evidenzbasierte Plattform für laiengerechte Gesundheitsinformationen. Das wurde auf der vom Bundesinstitut für Öffentliche Gesundheit (BIÖG) in Berlin veranstalteten Tagung „Gesundheitskompetenz – KI als Gamechanger?!“ deutlich.

Am 15. Dezember sollen Vertreter und Vertreterinnen des BIÖG, des Instituts für Qualität und Wirtschaftlichkeit im Gesundheitswesen (IQWiG), der Stiftung Gesundheitswissen und von gesund.bund.de über mehr Zusammenarbeit beraten, wie Johannes Nießen, Kommissarischer Leiter des BIÖG, dem Deutschen Ärzteblatt am Rande der Veranstaltung sagte.

Es sollen Synergien gebildet und Kräfte gebündelt werden. Ein mögliches Ziel könnte eine Art gemeinsame KI-Suchmaschine sein, die ausschließlich vertrauenswürdige und evidenzbasierte Inhalte liefert, so Nießen.

Alle vier Organisationen bieten bereits Gesundheitsinformationen an, das IQWiG beispielsweise die Webseite gesundheitsinformation.de. Dessen Chefredakteur Klaus Koch macht sich schon länger für eine gemeinsame Plattform stark. Er beklagte zuletzt einen deutlichen Rückgang der Klickzahlen auf dem von ihm geleiteten Portal, den er mit der steigenden Verbreitung von Chatbots und den bei Google-Suchen automatisch generierten KI-Antworten in Verbindung bringt.

Hintergrund ist, dass sich immer mehr Menschen mithilfe von kommerziellen Chatbots zu Gesundheitsthemen informieren. Durch individualisierte Antworten und Chatfunktionen sind diese Anwendungen relativ bequem und nutzerfreundlich. Die institutionellen Anbieter von Gesundheitsinformationen in Deutschland mit ihren klassischen Gesundheitsportalen verlieren dadurch an Bedeutung und Reichweite.

Informationsverhalten schon heute durch KI verändert

Viele Menschen geben sich mit den KI-Antworten zufrieden und besuchen nicht mehr die Webseite, von der die Information ursprünglich kommt. Die Sorge ist, dass dadurch das Risiko von Fehlinformationen und Gesundheitsinformationen ohne Evidenzgrundlage steigt.

In einer aktuellen Umfrage im Auftrag des IT-Branchenverbands Bitkom gibt jeder zehnte Befragte an, sich häufig an KI-Chatbots wie ChatGPT, Gemini oder Microsoft Copilot zur Klärung von Symptomen oder für generelle Fragen zum Thema Gesundheit zu wenden (manchmal: 17 Prozent, selten: 18 Prozent, nie: 47 Prozent).

Mehr als die Hälfte (55 Prozent) der Nutzerinnen und Nutzer, die KI-Chatbots gesundheitliche Fragen stellen, vertrauen der Umfrage zufolge in der Regel den Antworten. Die Hälfte gibt an, ihre Symptome durch KI-Chatbots besser zu verstehen als bei der herkömmlichen Internetsuche.

Detaillierte Erkenntnisse zum Vertrauen in Chatbot-Aussagen stellte bei der Veranstaltung Elena Link vor, die an der Universität in Mainz unter anderem zu gesundheitsbezogenem Informationsverhalten forscht. Nach ihren Erkenntnissen sind Menschen hierzulande bisher noch skeptisch und vorsichtig, wenn sie wissen, dass sie KI-generierte Argumente vor sich haben.

In einer Studie habe man Teilnehmenden eine identische Angabe über Impfungen mit unterschiedlichen Quellenangaben zur Bewertung vorgelegt. Gaben die Forschenden als Quelle eine KI an, so sei dem Argument eine geringere Qualität beigemessen worden als bei dem Label „Ständige Impfkommission“. Wurde die Angabe als Kooperation von Experten und einer KI benannt, beeinträchtige dies ebenfalls die qualitative Bewertung.

Erst kürzlich zeigte eine Erhebung von Forschenden aus Bielefeld, dass gut 71 Prozent der Menschen in Deutschland eine geringe digitale Gesundheitskompetenz aufweisen, also zum Beispiel von Schwierigkeiten beim Beurteilen der Vertrauenswürdigkeit digitaler Informationen berichten. Das trifft insbesondere bei Gruppen mit niedrigem Sozialstatus, einem Alter ab 65 und niedrigem Bildungsniveau zu. Das Deutsche Ärzteblatt berichtete.

Große Anstrengungen nötig

Der Präsident der Bundesärztekammer (BÄK), Klaus Reinhardt, betonte bei der Tagung, er unterstütze eine nationale Gesundheitsplattform. Sie müsse mit Blick auf die Informationsqualität über jeden Zweifel erhaben sein. „Der Aufwand, den wir da treiben müssen, ist viel größer als alles, was wir bisher an dieser Stelle tun.“ Es sei aber wichtig, um den Wettlauf mit großen Tech-Firmen nicht zu verlieren.

Michaela Schröder, Geschäftsbereichsleiterin Verbraucherpolitik beim Verbraucherzentrale Bundesverband (VZBV), sagte, eine neue Plattform müsse mit modernen Kommunikationsmittel beworben werden und gut aufgebaut sein. Um ein Gegengewicht zu kommerziellen Chatbots und Influencerinnen bei Instagram und Tiktok zu schaffen, bedürfe es großer Anstrengungen und es müsse Geld in die Hand genommen werden. „Ansonsten wird es ein Rohrkrepierer.“

„KI bedeutet nicht gleich Fehlinformation und Halluzination. Das hat viel auch damit zu tun, [...] welche Datenbasis besteht", sagte Sebastian Schmidt-Kaehler von der Bertelsmann-Stiftung. Auch die Governance von KI-Systemem spiele eine große Rolle. „Wir alle wissen, dass die Governance der großen Sprachmodelle ChatGPT und Gemini ganz andere Ziele verfolgt als die Gesundheit der Bevölkerung.“ Deshalb brauche es „gemeinwohlorientierte KI-Formen“.

Ein Forschungsprojekt in der Testphase, das bei der Tagung in Berlin vorgestellt wurde, ist ein Chatbot speziell zu Suchtfragen namens SuchtGPT. Es wird vom Bundesgesundheitsministerium (BMG) gefördert und lässt sich bereits ausprobieren. Im Zuge des Projekts soll geklärt werden, ob der Bot Fragen aus dem Bereich korrekt beantworten und Ratsuchende angemessen unterstützen kann.

fri/ggr