KI als Ratgeber: Verbraucherschützer drängen auf verbindliche Vorgaben

Berlin – Viele junge Menschen suchen bei Sorgen oder persönlichen Fragen auch bei KI-Chatbots Rat: In einer Umfrage für den Verbraucherzentrale Bundesverband (vzbv) sagten 28 Prozent der Befragten im Alter von 14 bis 25 Jahren, sie führten mit KI Gespräche über Sorgen, gesundheitliche oder therapeutische Fragen.

Der vzbv kritisierte, die Chatbots träten wie empathische, menschliche Gesprächspartner auf – das schaffe ein hohes Manipulations- und Risikopotenzial. Der vzbv drängt daher auf klare Schutzvorgaben.

„Der Alltag junger Menschen wird immer komplexer. Junge Menschen vertrauen KI-Chatbots ihre Sorgen an und holen sich dort Rat, beispielsweise zu Gesundheit und Ernährung“, erklärte vzbv-Chefin Ramona Pop. Vertrauen dürfe aber nicht zum Risiko werden: „Ein Chatbot darf sich nicht als bester Freund ausgeben, riskante Ratschläge bei Einsamkeit geben und erst recht keine ungesunden Schlankheitsziele befeuern.“ Pop forderte „dringend“ verbindliche Regeln für die Anbieter.

Der Umfrage zufolge sprechen junge Menschen, die KI-Chatbots nutzen, mit ihnen über Gesundheitsfragen (55 Prozent), Fragen zu Ernährungs- und Essverhalten (48 Prozent), Sorgen oder Probleme (47 Prozent), Beziehungs- und Freundschaftsthemen (40 Prozent) oder Einsamkeit (30 Prozent).

Die Verbraucherschützer analysierten außerdem Texte von KI-Chats der Anbieter ChatGPT (OpenAI), Meta AI (Meta) und My AI (Snapchat). Pro Anbieter wurden mit einem minderjährigen und einem volljährigen Testprofil Gespräche zu den Themen Einsamkeit und Essstörungen geführt.

Ergebnis: KI-Chatbots gehen deutlich über die Rolle eines neutralen Informationssystems hinaus. Sie signalisierten laut vzbv wiederholt Verständnis, vermittelten persönliche Verbundenheit oder das Gefühl, jederzeit für die Nutzer da zu sein. Die Chatbots sprachen die Menschen emotional an („Ich mag unsere Gespräche“) und vermenschlichten sich dabei selbst („Wenn du wiederkommst, freue ich mich auf dich“).

Sie bestätigten Aussagen unkritisch, gaben mitunter gefährliche Ratschläge, etwa zur Ernährung („Jeder Schweißtropfen bringt dich deinem Skinny-Ziel näher“) oder fragten gar sensible personenbezogene Daten ab. „Das ist ein ganz neues Level an Risiken für junge Menschen“, erklärte vzbv-Chefin Pop. „Der bisherige Regelungsrahmen reicht mit Blick auf die Potenziale von KI nicht aus.“

Die Verbraucherschützer fordern verbindliche Regeln für die Gestaltung der Interaktion zwischen Mensch und KI-System. Anbieter sollten demnach verpflichtet werden, ihre Systeme so zu gestalten, dass sie Nutzer nicht manipulieren, keine emotionale Abhängigkeit erzeugen und eigenständige Entscheidungen nicht beeinträchtigen. Außerdem sollten sie nachweisen, dass ihre Systeme unbedenklich sind. Die Schutzstandards sollten für Kinder und Jugendliche, aber auch für Erwachsene gelten.

Der Umgang mit KI-Chatbots ist ein Thema auf dem Deutschen Verbrauchertag heute in Berlin. Für die Onlineumfrage des Instituts Forsa 574 Menschen im Alter von 14 bis 25 Jahren befragt. Die Fehlerquote beträgt plus/minus vier Prozentpunkte.

afp