Ärztinnen und Ärzte wollen Künstliche Intelligenz selbst gestalten

Leipzig – Zur Künstlichen Intelligenz (KI) in der Medizin führten die Delegierten des 129. Deutschen Ärztetages heute eine lebhafte und nach vorn gerichtete Diskussion. Mit Blick auf die Entwicklung von eigenen Positionen zur Nutzung von KI im Gesundheitswesen sei die Ärzteschaft „nicht zu spät“, sagte Erik Bodendieck, Präsident der Sächsischen Landesärztekammer (SLÄK). Die geeinte ärztliche Positionierung gelte es nun „schlagkräftig“ nach außen darzustellen.

Susanne Johna, Vizepräsidentin der Bundesärztekammer (BÄK), betonte, man müsse sich seitens der Politik „auf den Weg machen“, europäische Antworten auf die derzeit dominierenden KI-Modelle aus den USA zu finden. Sie verwies zudem auf die im Versorgungsalltag deutlich spürbare Diskrepanz zwischen dem aktuellen Stand bei der allgemeinen IT-Ausstattung von medizinischen Einrichtungen und der angestrebten Implementierung von KI-Anwendungen.

Welche Möglichkeiten mit KI künftig denkbar sind, zeigten zudem unter anderem der KI-Experte Aldo Faisal von der Universität Bayreuth und am Imperial College in London vor der Debatte auf.

Einen Appell in Richtung ihrer Kolleginnen und Kollegen richtete Katharina Thiede, Delegierte der Ärztekammer Berlin (ÄKB). Es gelte, nicht nur über „so nicht“ zu diskutieren, sondern die Entwicklung aktiv mitzugestalten. Die von einigen als disruptiv empfundene KI-Durchdringung müsse man als Realität akzeptieren – aber eben konstruktiv begleiten, sagte auch Jens Andrae von der Ärztekammer Thüringen.

Wichtig bei KI in der Medizin sei etwa die Datenqualität. Darauf wies Solveig Voran aus Schleswig-Holstein hin. „KI ist immer nur so gut wie die Daten, mit der sie lernt.“ Zudem betonte sie, dass die KI nur Korrelationen und keine Kausalitäten anzeigen könne. Es liege deshalb in der Verantwortung der Ärzteschaft, die Digitalkompetenz weiterhin zu fördern. Man müsse verstehen, wie KI funktioniert und Kompetenzen zur Nutzung der KI müssen auch bewahrt und weitergegeben werden.

Dabei sei es auch wichtig, Strukturen zu schaffen, um Ärztinnen und Ärzte gezielt über Themen wie Datensicherheit, Falschinformation oder die Begrenzungen der Anwendung von KI aufzuklären, betonte Victoria Witt aus Schleswig-Holstein. Es sei sinnvoll, dafür Ansprechpartner zu benennen und Handreichungen zu entwickeln.

Bedachter Umgang mit KI

Ähnlich argumentierte auch Lars Bodammer von der Ärztekammer Hessen (LÄKH). Ärztinnen und Ärzte müssten den Umgang mit Entscheidungen unter KI-Einsatz erlernen, forderte er. Denn aus dem Kontext anderer digitaler Tools sei bereits bekannt, dass Anwender zugunsten der Convenience oftmals Abstriche bei der Sicherheit machen.

Auf die ärztliche Tätigkeit übertragen stelle sich die Frage, ob Convenience vor ärztlicher Kontrolle der Entscheidung steht. „Ja, die Convenience wird viele dazu verleiten, Entscheidungen nicht zu hinterfragen“, warnte Bodammer. „Wir alle haben die Verpflichtung, unser Handeln auf Grundlage der aktuellen Erkenntnis der Wissenschaft zu hinterfragen.“ Allerdings müsse man sich angesichts des Dokumentationsaufwands fragen, wie viel Zeit überhaupt bleibt, das zu tun. 

Andreas Hammerschmidt aus Niedersachsen wies zudem auf die Notwendigkeit hin, KI in der Weiterbildung mitzudenken. KI werde nicht nur die Weiterbildung verändern, sondern auch die Frage was und wie man lerne. Gleichzeitig dürften ärztliche Fähigkeiten nicht verloren gehen, man dürfe sich nicht zu sehr auf vorgeschlagene Diagnosen und Algorithmen stützen.

Im Rahmen der Weiterbildung müssten Ergebnisse von KI deshalb kritisch bewertet werden können. Diese Fähigkeiten zu vermitteln sei Aufgabe der Ärztekammern, der Fachgesellschaften, Weiterbildenden und Weiterzubildenden, betonte Hammerschmidt. Das betonte auch Marion Charlotte Renneberg aus Niedersachsen.

Auch müsse die Verlässlichkeit der ausgegebenen Resultate, speziell von großen Sprachmodellen, technisch so weit wie möglich sichergestellt werden, forderte BÄK-Vorstandsmitglied Gerald Quitterer. Es müssten Maßnahmen gegen das Phänomen der Halluzinationen getroffen werden. „Es ist für mich wichtig, dass KI den geschützten Raum der Arzt-Patienten-Beziehung nicht aufbricht, sondern ihn erweitert“, erklärte er.

KI könne zudem nur das verwerten, was an eingegebenen Daten vorhanden sei, bemerkte Jürgen de Laporte aus Baden-Württemberg. Ärztinnen und Ärzte verfügten aber über gewachsene Erfahrungen, die zum großen Teil nicht verschriftlicht seien. Damit schließe man einen großen Teil der Behandlungsrealität für die Nutzung von KI aus, so de Laporte. Er forderte deshalb Personal, etwa Studierende, die in Hausarztpraxen entsprechende Erfahrungen verschriftlichen sollten.

Eigene Innovationskraft stärken

Problematisch bei der Umsetzung von KI in der Praxis seien insbesondere fehlende Schnittstellen, bemängelte Solveig Voran aus Schleswig-Holstein. Vor allem im Krankenhaus sei dies ein Problem aufgrund verschiedener nicht-kompatibler Systeme. Die Systemhersteller hätten kein Interesse, offene Schnittstellen anzubieten, weil sie ihre eigenen Produkte verkaufen wollten. „Die Schnittstellen müssen aber funktionieren“, forderte sie. Da müsse man nochmal ran.

Kai Johanning aus Niedersachsen bemängelt ebenfalls die suboptimale digitale Infrastruktur in den Krankenhäusern. Damit könne man Kolleginnen und Kollegen noch nicht vom KI-Einsatz überzeugen, erklärte Johanning. Für den besseren Einsatz von KI brauche es zudem weitere Ressourcen, um das entsprechende Know-How in die Kliniken zu bringen.

Statt sich rein auf die Industrie zu verlassen, müsse die Ärzteschaft zudem ihre eigene Innovationskraft stärken, forderte André Kröncke aus Schleswig-Holstein. „Ich finde, dass wir als BÄK und Landesärztekammern die Kollegen fördern müssen, die eigene Ideen und Projekte zur sinnvollen Nutzung von KI haben“, betonte er. „Wir müssen die Drehscheibe werden. Wir sind die Ärzte, wir müssen uns auch selbst regulieren.“

So sah das auch Mira Faßbach aus Nordrhein. Die Ärzteschaft müsse klären, wie sie sicherstellen kann, dass ihr Datenschatz den Patientinnen und Patienten zur Verfügung gestellt werden kann. Stattdessen sei es bisher so, dass KI-Tools an Patientendaten trainiert und die daraus entstehenden Produkte dann an die Ärzte verkauft werden. „Wir sollten uns bemühen, dass wir diesen Schatz nicht verschenken.“

Stefan Streit von der Ärztekammer Nordrhein plädierte stattdessen für eine bessere, patientenzentrierte Regulierung. „Wir werden in Europa nicht durch technologische Entwicklung einen Vorsprung erreichen“, unterstrich er. Die Stärke Europas sei stets die soziale Regulierung gewesen.

Neben der Entwicklung eigener KI-Instrumente müsse es auch künftig die Aufgabe von Ärztinnen und Ärzten sein, diese den Patienten zu vermitteln, erklärte Johannes Buchmann aus Mecklenburg-Vorpommern. Wichtig sei zudem, dass der Mensch die letztendliche Entscheidungshoheit behält und dies nicht durch die KI ersetzt wird, betonte Tilman Kaethner aus Niedersachsen: „KI hat keine Approbation.“

Entwicklung kritisch begleiten

Vor zu unkritischer Euphorie warnte Thomas Lipp aus Sachsen-Anhalt. „Ich fürchte, dass die KI zur Effizienzsteigerung führen wird“, sagte er. „Schreibmaschine, Telefon und Computer haben immer nur zu einer Arbeitsverdichtung geführt, nicht zu einer Erleichterung.“ Zudem müsse auch eine Energiekostenabschätzung durchgeführt werden, ansonsten könne die Nutzung auch irgendwann an mangelnden Ressourcen scheitern.

Gleichzeitig müsse die Ärzteschaft aber aktiv daran arbeiten, Bedingungen für die Anwendung von KI zu schaffen und sich bei deren Weiterentwicklung aktiv einbringen – auch, um bisher wahrgenommene Hürden in der Praxis zu überwinden, statt auf perfekte Programme zu warten.

„Wenn wir nicht zu Potte kommen, wird die Gesellschaft irgendwann die Möglichkeiten der KI nutzen, um uns zu ersetzen“, mahnte er. „Wir müssen zum Treiber werden und noch den Letzten zwingen, mitzugehen, damit das nicht passiert.“

Der Berliner Delegierte Julian Veelken warnte vor den Folgen, die auf Patienten und Gesellschaft zukommen könnten, wenn der Zugriff auf die Daten, mit denen KI-Anwendungen arbeiten, nicht strikt genug reguliert wird. Er zog zum Vergleich die Wirtschaftsauskunft Schufa heran, die ebenfalls massenhaft Daten von Millionen von Menschen aus verschiedensten Quellen sammele und daraus einen Score berechne, der teils massive Auswirkungen auf das Leben dieser Menschen habe.

Von der elektronischen Patientenakte (ePA) bis zu Wearables gebe es zahlreiche Stellen und Strukturen, in denen sensible Gesundheitsdaten gespeichert werden, die dann durch KI zusammengeführt werden könnten.

„Wenn ein Finanzscore berechnet werden darf, ist auch denkbar, dass irgendwann ein Gesundheitsscore berechnet wird“, mahnte Veelken. „Es ist völlig klar, welche Interessen an einem solchen Score herrschen würden und welche Folgen das für Menschen haben würde.“ Geschäftsmodellen, die darauf aufbauen, müssten Politik und Selbstverwaltung entschlossen entgegentreten.

„Wir wollen keine chinesischen Verhältnisse haben, da sind wir uns alle einig“, mahnte dementsprechend auch der Hesse Michael Andor. Ethische und rechtliche Grenzen der KI-basierten Datenauswertung und -anwendung müssten klar abgesteckt werden.

cmk/aha/lau