KI-Chatbot könnte Therapiegespräche empathischer machen
Berlin – Künstliche Intelligenz (KI) kann in Laiengesprächen zu Problemen bei mentaler Gesundheit helfen, die Aussagen von Teilnehmenden empathischer zu machen. Zu diesem Ergebnis kommt eine Studie im Fachjournal Nature Machine Intelligence (DOI: 10.1038/s42256-022-00593-2).
Das Modell mit dem Namen Hailey wurde in einer randomisierten Studie mit 300 Teilnehmenden auf einem App-Interface getestet, das der Plattform TalkLife nachempfunden war, getestet. Die Plattform TalkLife ermöglicht es Usern, im nichtklinischen Kontext mit anderen Usern über ihre psychischen Probleme zu schreiben.
Dabei sind Rollen festgelegt: Eine Person schreibt über ihre Erfahrungen und mentalen Probleme, während die andere darauf reagiert und Feedback oder Ratschläge gibt. Die KI Hailey machte nun bei Antworten der beratenden User Verbesserungs- und Ergänzungsvorschläge mit dem Ziel, dass sie empathischer wirken. Die User konnten sich daraufhin entscheiden, ob sie die Vorschläge annehmen oder ignorieren wollen.
Den Studienautoren zufolge kamen dabei signifikante Ergebnisse heraus: Demnach haben die Hinweise dazu geführt, dass die Nachrichten im Durchschnitt als 19,6 Prozent empathischer beurteilt wurden als die von den Probanden allein verfassten Nachrichten. Berichteten User zuvor von Problemen, sich empathisch auszudrücken, wurden die durch die KI überprüften Antworten sogar als durchschnittlich 38,9 Prozent empathischer bewertet.
Auch die Authentizität der Antwort – also ob sie den Eindruck erweckt, dass sie von einem Menschen geschrieben wurde – wurde erfragt: Zwar schnitten die von Menschen allein verfassten Antworten am besten ab, allerdings nur knapp vor denen, die Menschen nach KI-Hinweis verfasst haben. Diejenigen, die ausschließlich von der KI verfasst wurden, lagen in der Bewertung ungefähr 30 Prozentpunkte dahinter.
Die Studienautoren schließen daraus, dass deshalb ein Human-in-the-Loop-Ansatz, bei dem sich Menschen von der KI unterstützen lassen, am vielversprechendsten ist. Er biete sowohl ein hohes Maß an Empathie als auch an Authentizität.
Die Befunde der Studie könnten ihnen zufolge Implikationen für die psychologische Behandlung geben. Es stelle sich – auch angesichts der Fähigkeiten neuer Anwendungen wie ChatGPT – die Frage nach der sinnvollen Anwendung solcher Sprachgeneratoren in der Psychologie.
Das gelte insbesondere angesichts der Begrenztheit von Therapieplätzen und langen Wartezeiten. Allerdings seien auch die Bedenken groß, da es sich schließlich um einen besonders sensiblen Bereich handele, in dem Fehler und schlechte Beratung besonders schwerwiegende Folgen haben könnten.
So sei beispielsweise eine Untergruppe an gegebenen Antworten der Teilnehmenden hervorzuheben, in der lediglich die Vorschläge der KI akzeptiert wurden, ohne dass noch weitere Veränderungen am vorgeschlagenen Text vorgenommen wurden, betonte Tobias Rieger, wissenschaftlicher Mitarbeiter am Fachgebiet Handlungs- und Automationspsychologie der Technischen Universität Berlin.
„Derartiges Verhalten kann ein Zeichen von Übervertrauen in das Assistenzsystem sein“, erklärte er. Das könne statt zum Fertigkeitserwerb auf Dauer sogar zu einem Fertigkeitsverlust führen. „In diesem Fall wäre dies dann zum Beispiel der Verlust der Fertigkeit, selbst empathische Antworten zu formulieren, wenn auf Dauer immer nur direkt der KI-Empfehlung gefolgt wird.“
Diskutieren Sie mit
Werden Sie Teil der Community des Deutschen Ärzteblattes und tauschen Sie sich mit unseren Autoren und anderen Lesern aus. Unser Kommentarbereich ist ausschließlich Ärztinnen und Ärzten vorbehalten.
Anmelden und Kommentar schreiben
Bitte beachten Sie unsere Richtlinien. Der Kommentarbereich wird von uns moderiert.
Diskutieren Sie mit: