Modell entlarvt KI-Texte

Ein KI-Werkzeug erkennt bei über 90 % von ausgewählten wissenschaftlichen Texten, ob sie ein Mensch oder KI geschrieben hat. Die Autor:innen einer Studie in Cell Reports Physical Science hatten zuvor wissenschaftliche Kurzartikel durch ChatGPT neu schreiben lassen. Wie der Vergleich ergab, schreiben Mensch und KI unterschiedlich lange Sätze und setzen manche Satzzeichen anders.

Die Autor:innen hatten das Erkennungsmodell jedoch am selben Typ von Artikel im selben Journal trainiert, an dem sie es anschließend testeten. Die Eingabe in ChatGPT war ebenfalls immer die gleiche, sodass das Modell möglicherweise Textmuster erkennt, die bei anders formulierten Eingaben nicht entstanden wären.

doi: 10.1016/j.xcrp.2023.101426

Bildung + Gesellschaft