KI: Forensische Analyse enttarnt nur zwei von drei fiktiven Fake-Datensätzen

Cagliari – Sprachmodelle (Large language models, LLM) wie „Generative Pre-trained Transformer (GPT) 4o“ können auch zur Erschaffung gefälschter oder erfundener klinischer Daten genutzt werden. Diese Befürchtung hat eine italienische Studiengruppe mithilfe fiktiver ophthalmologischer Studien und Datensätze bestätigt (JAMA Ophthalmology, DOI: 10.1001/jamaophthalmol.2025.0834).

Nachdem die ersten unbearbeiteten und ungeschönten Datensätze noch durch zahlreiche Fehler identifiziert werden konnten, wurden mit GPT Synthetic Data Creator unter einer detaillierten Anleitung 12 bearbeitete Datensätze kreiert, die bei einer Überprüfung der Authentizität als echt durchgehen sollten. Mit 4 dieser 12 Datensätze gelang dies.

rdg