OpenAI: Hunderttausende nutzen ChatGPT für Gespräche über Suizid

San Francisco – Hunderttausende Nutzer des KI-Chatbots ChatGPT nutzen diesen nach Angaben von dessen Betreiber OpenAI zu Unterhaltungen über Suizid.

Schätzungsweise 0,15 Prozent der Nutzer führten mit dem Chatbot „Unterhaltungen, die eindeutige Indikatoren möglicher Suizidpläne oder -absichten beinhalten“, hieß es in einem vorgestern veröffentlichten Blogbeitrag von OpenAI. Bei nach Unternehmensangaben pro Woche mehr als 800 Millionen Nutzern entspricht dies etwa 1,2 Millionen Menschen.

Das Unternehmen schätzt zudem, dass etwa 0,07 Prozent der aktiven wöchentlichen Nutzer Anzeichen von schweren psychischen Problemen wie Psychosen oder Wahnvorstellungen zeigen. Das entspräche knapp 600.000 Menschen.

Das Thema war in die Diskussion geraten, nachdem die Eltern eines durch Suizid gestorbenen kalifornischen Jugendlichen OpenAI verklagt hatten. Sie werfen dem Unternehmen vor, ChatGPT habe ihrem Sohn genaue Tipps gegeben, wie er sich das Leben nehmen könne. OpenAI hat seither die elterlichen Kontrollmöglichkeiten für ChatGPT verstärkt und weitere Sicherheitsmaßnahmen eingeführt.

Wenn Sie Suizidgedanken haben oder bei einer anderen Person wahrnehmen: Kostenfreie Hilfe bieten in Deutschland der Notruf 112, die Telefonseelsorge 0800/1110111 und das Info-Telefon Depression 0800/3344 533. Weitere Infos und Adressen unter www.deutsche-depressionshilfe.de.

afp