Psychiater setzen sich für Standards beim Einsatz von Künstlicher Intelligenz ein

Berlin – Künstliche Intelligenz (KI) kann Diagnostik, Therapie und Verwaltung in Psychiatrie und Psychotherapie verbessern. Voraussetzung sind jedoch sichere, wirksame und speziell für psychisch erkrankte Menschen entwickelte Systeme. Zu dieser Einschätzung kommt die Deutsche Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde (DGPPN) in einem Positionspapier, das gestern veröffentlicht wurde.

„KI ist in der Lage, große Datenmengen auszuwerten und darin Muster zu erkennen, die die Diagnostik verbessern können. Daten aus Smartwatches oder anderen tragbaren Sensoren können dazu beitragen, eine psychische Krise oder einen drohenden Rückfall früher zu erkennen. Und auch in der Therapie könnten KI-Anwendungen vielfältig unterstützend eingesetzt werden“, erklärte Peter Zwanzger, Leiter des DGPPN-Referats Digitale Psychiatrie und Psychotherapie und Ärztlicher Direktor am kbo-Inn-Salzach-Klinikum.

Darüber hinaus biete die Automatisierung von Dokumentations- und Verwaltungsaufgaben die Chance, Fachkräfte zu entlasten und mehr Zeit für den direkten Patientenkontakt zu schaffen.

Dafür entscheidend sei jedoch, dass die Systeme für die Zielgruppe und den konkreten Anwendungszweck sicher und wirksam seien. „ChatGPT und vergleichbare Modelle wurden nicht für Menschen mit psychischen Erkrankungen konzipiert. Bei ungeregelter Nutzung können sie für diese Zielgruppe gefährlich sein“, sagte Zwanzger.

Kritisch diskutiert werde beispielsweise die Gefahr einer „Pseudo-Allianz“, die letztlich auch durch die intendierte Eigenschaft von KI-basierten Chatbots zustande komme, Antworten an die Erwartungen der Nutzenden anzupassen und auf diese Weise die Interaktion möglichst lange aufrechtzuerhalten (Sycophancy).

Aus solchen Interaktionen könnten dysfunktionale emotionale Abhängigkeiten mit daraus resultierenden Gefahren entstehen, für die beispielsweise Patienten mit Persönlichkeitsstörungen und hoher interpersoneller Dysfunktionalität besonders anfällig seien. Auch bestehe die Gefahr inadäquater Reaktionen auf Krisensituationen, wenn beispielsweise Suizidalität nicht erkannt oder paranoides Erleben verstärkt werde.

Gleichzeitig liegen dem Positionspapier zufolge inzwischen Studien vor, die verdeutlichen, dass spezifisch entwickelte Systeme für die Behandlung psychischer Erkrankungen wirksam sein können – insbesondere bei leichten und mittelschweren Beeinträchtigungen.

So zeige beispielsweise eine Metaanalyse (Depress Anxiety 2025; DOI: 10.1155/da/8930012) positive Effekte KI-basierter psychologischer Interventionen. Insgesamt wurden 30 randomisierte kontrollierte Studien mit 6.100 Teilnehmenden aus neun Ländern ausgewertet. Die Ergebnisse machten deutlich, dass KI-gestützte Interventionen depressive Symptome signifikant reduzieren konnten. Moderate Effekte waren auch in Follow-up-Untersuchungen nach sechs bis zwölf Monaten nachweisbar.

„Wenn wir KI-Systeme verantwortungsvoll für die Behandlung von Menschen mit psychischen Erkrankungen einsetzen möchten, müssen wir sicherstellen, dass die Anwendungen für diesen Zweck konzipiert wurden und nachgewiesenermaßen wirksam sind“, betonte der Psychiater Zwanzger. Er empfiehlt, nur Systeme einzusetzen, die vor ihrer Zulassung – wie andere Medizinprodukte auch – auf Sicherheit, Wirksamkeit und ihren Nutzen für die Betroffenen überprüft wurden.

Die DGPPN fordert deshalb verbindliche Standards für den Einsatz von KI in der psychiatrisch-psychotherapeutischen Behandlung. Diese Standards müssen die europäische KI-Verordnung (EU-AI-Act) berücksichtigen und sollten sich an etablierten Verfahren und Prinzipien der Medizinprodukteregulierung orientieren.

Ebenso wichtig seien Datenschutz und Transparenz des Einsatzes: Patienten müssten erkennen können, wann sie mit KI interagieren und jederzeit darauf vertrauen können, dass ihre Daten sicher verarbeitet und gespeichert werden.

PB