Am 21. September, nur wenige Stunden nachdem Thélyson Orélien den Prix du Roman Fnac erhalten hatte, veröffentlichte ein anonymer Account Ergebnisse von KI-Detektoren, denen zufolge sein Bestseller-Debütroman fast vollständig von KI geschrieben worden sei. Einen Monat später, am 21. Oktober, beendete sein kanadischer Verlag die Zusammenarbeit mit dem Autor. Ausschlaggebend war nicht ein weiterer Detektorwert, sondern eine externe Analyse der Arbeitsdateien des Romans.

Wir haben am 25. September auf LinkedIn über den Fall geschrieben, als der Öffentlichkeit lediglich die Detektorwerte vorlagen: Back to the Witch Hunt: Why AI Detectors Are Creating a Crisis of Proof. Wir warnten davor, statistische Werte in Urteile zu verwandeln. Die späteren Ereignisse haben wichtige Belege hinzugefügt, doch die grundlegende Erkenntnis bleibt: Ein Wert kann eine Frage aufwerfen. Um zu verstehen, wie ein Text entstanden ist, brauchen wir auch Belege für den Entstehungsprozess.

Der Fall in acht Fakten

• Ein Bestseller unter Verdacht. C'était ça ou mourir hatte laut von ActuaLitté berichteten Zahlen von Edistat bis zum 11. Oktober in Frankreich mehr als 83.000 Exemplare verkauft. Der Roman war zudem in den Auswahllisten wichtiger französischer Literaturpreise für den Herbst vertreten.
• Hohe Werte, widersprüchliche Ergebnisse. Pangram bewertete laut France 24 den gesamten Text mit einem KI-Wert von 92 %. Lucide gab an, 34 von 35 Abschnitten als vollständig KI-generiert eingestuft zu haben. Beide Tools sollen Texte, die Orélien bereits vor der Existenz von ChatGPT veröffentlicht hatte, als von Menschen geschrieben erkannt haben. Tests der AFP mit anderen Tools an denselben Auszügen ergaben jedoch Ergebnisse, die von „sehr wahrscheinlich menschlich“ bis zu 100 % KI reichten.
• Die Literaturpreise reagierten. Am 25. September nahm die Académie Goncourt den Roman aus ihrer ersten Auswahlliste, wobei sie Bedenken hinsichtlich früherer Texte und übereinstimmender Analyseergebnisse anführte. Die Médicis-Jury strich ihn am 15. Oktober ebenfalls von ihrer Liste.
• Der Verlag hielt sich zunächst zurück. Am 14. Oktober erklärte Renaud Roussel, Co-Generaldirektor von Boréal, gegenüber ICI Première, dass das vorliegende Material keine eindeutigen Schlussfolgerungen zulasse und ein Detektor keine abschließende Antwort liefern könne.
• Die Rekonstruktion des Entstehungsprozesses erwies sich als schwierig. Boréal versuchte, gemeinsam mit dem Autor eine Dokumentation darüber zusammenzustellen, wie der Roman entstanden war. Anhand des damals verfügbaren Materials konnte der Verlag den Schreibverlauf nicht unabhängig nachvollziehen. Orélien zufolge begann er 2017 mit dem Schreiben und stellte 2019 einen ersten Entwurf fertig. Am 17. Oktober erklärte er, keine weiteren Unterlagen zur Verfügung zu stellen.
• Die Arbeitsdateien änderten die Entscheidung. Boréal trug die verfügbaren Arbeitsfassungen zusammen und beauftragte eine externe Analyse. Nach Angaben des Verlags wurden in den Metadaten bestimmter Dokumente Spuren von KI-bezogenen Tags gefunden. Am 21. Oktober kündigte Boréal an, den Roman nicht erneut aufzulegen und keine weiteren Bücher von Orélien zu veröffentlichen.
• Das Ausmaß der KI-Nutzung bleibt unbekannt. Boréal erklärte, die neuen Belege deuteten darauf hin, dass während des Schreibprozesses KI eingesetzt worden sei, räumte jedoch ein, dass sich das Ausmaß nicht feststellen lasse. Orélien zufolge nutzte er KI für Recherchen und sprachbezogene Aufgaben, hält aber daran fest, den Roman selbst geschrieben zu haben.
• Die Verlagsbranche reagiert unterschiedlich. Verlage erwägen eine ausdrücklichere Offenlegung der KI-Nutzung. Ein neuer Literaturpreis, der Prix Pascal, verlangt von den Teilnehmenden Angaben zu den verwendeten Tools und Prompts. Französische Medien berichteten außerdem über Pläne der Verlagsgruppe Madrigall, Manuskripte ab Januar 2027 mithilfe von KI zu überprüfen.

Was der Wert eines KI-Detektors nicht zeigen kann

Ein Wert beschreibt, wie ein Tool einen fertigen Text klassifiziert. Er rekonstruiert nicht den Prozess, durch den dieser Text entstanden ist. Für sich genommen kann er nicht zeigen, welche Passagen mit KI entworfen, durch Prompts erzeugt, überarbeitet oder übersetzt wurden, in welcher Reihenfolge sich die Arbeit entwickelte oder wie viel eigene Recherche und eigenes Denken des Autors eingeflossen sind. Ein Prozentwert sollte nicht automatisch als Anteil der von KI geschriebenen Wörter verstanden werden.

Diese Unterscheidung ist im Fall Orélien wichtig. Die spätere Metadatenanalyse fand Berichten zufolge in bestimmten Dokumenten Spuren, die mit KI in Verbindung standen. Doch auch dieser Befund belegt nicht genau, was die Tools getan haben oder wie viel sie beigetragen haben. Wie Clubic anmerkte, lässt eine Spur, die mit einem KI-Tool verbunden ist, für sich genommen nicht erkennen, ob es zum Korrigieren, Umformulieren, Recherchieren oder Generieren von Passagen verwendet wurde.

Die Lehre daraus ist nicht, dass Ergebnisse von Detektoren wertlos sind. Sie können Anlass für weitere Untersuchungen sein. Problematisch wird es, wenn ein Hinweis ohne bestätigende Belege als Schlussfolgerung behandelt wird.

Warum das im Bildungsbereich noch wichtiger ist

Hochschulen stehen vor derselben Herausforderung, allerdings mit einem wichtigen Unterschied: Die Nutzung von KI ist unter festgelegten Bedingungen zunehmend erlaubt. Es geht nicht allein darum festzustellen, ob Studierende KI verwendet haben. Entscheidend ist, ob die Prüfungsleistung weiterhin den angestrebten Lernerfolg belegt und ob die eingereichte Arbeit das Verständnis und den persönlichen Beitrag der Studierenden widerspiegelt.

Ein 2026 veröffentlichter Bericht, der von der australischen Hochschulaufsichtsbehörde TEQSA in Auftrag gegeben wurde, fordert Bildungseinrichtungen dazu auf, Belege für Lernprozesse aufzubauen und sich stärker auf prozessorientierte Prüfungsformen auszurichten. Für Prüfende können dazu die Entwicklung eines Textes über mehrere Wochen, die verwendeten Quellen, vorgenommene Überarbeitungen und die unterwegs getroffenen Entscheidungen gehören. Ein Gespräch, in dem Studierende diese Entscheidungen erläutern, kann zusätzlichen Kontext liefern.

Ein Detektor allein kann diese Fragen nicht beantworten – selbst dann nicht, wenn seine Klassifizierung zutrifft. Die Dokumentation des Arbeitsprozesses liefert eine andere Art von Belegen. Sie hilft Lehrenden, den Einsatz von KI als legitimes Recherche- oder Schreibwerkzeug davon zu unterscheiden, dass Arbeiten ausgelagert werden, die Studierende selbst hätten leisten sollen.

Daraus ergibt sich eine zweite Erkenntnis: Belege, die erst nach einem Vorwurf zusammengestellt werden, hängen davon ab, welche Unterlagen der Autor noch besitzt und bereit ist offenzulegen. Eine Dokumentation, die mit Beginn der Arbeit einsetzt, gibt ehrlichen Studierenden einen zeitnahen Nachweis ihrer Bemühungen. Sie müssen Monate an Recherche und Schreibarbeit nicht erst unter Verdacht rekonstruieren.

Für Verlage: Transparenz schaffen, bevor ein Konflikt entsteht

Boréal erklärte, der Verlag wolle nicht zum Ermittler seiner Autoren werden. Zugleich bezeichnete er das Vertrauen zwischen Autoren und Verlagen als grundlegend. Das ist eine nachvollziehbare Haltung. Vertrauen lässt sich jedoch leichter bewahren, wenn die Erwartungen klar sind und der Schreibprozess von Anfang an dokumentiert werden kann.

In diesem Fall eskalierte der Konflikt, nachdem bereits Preisnominierungen, Bestsellerlisten, internationale Übersetzungsverträge und ein Vertrag für ein zweites Buch vorlagen. Verlage stehen nun vor einer praktischen Frage: Wie können sie offen mit Autoren über erlaubte KI-Nutzung sprechen, ohne sich ausschließlich auf Erklärungen verlassen oder nach der Veröffentlichung Detektivarbeit leisten zu müssen?

Eine Erklärung ist hilfreich, kann sich aber nicht selbst unabhängig bestätigen. Das Ergebnis eines Detektors ist ein Signal, keine vollständige Darstellung des Schreibprozesses. Eine Dokumentation, die während der Arbeit entsteht, bietet beiden Seiten eine konkrete Grundlage für Prüfung und Austausch.

Was die Dokumentation des Arbeitsprozesses leisten kann – und was nicht

Die Dokumentation des Arbeitsprozesses ist kein Lügendetektor. Sie erfasst auch nicht jeden Gedanken oder jede Handlung außerhalb der verwendeten Tools. Ihr Wert hängt davon ab, was aufgezeichnet wird, wie zuverlässig die Aufzeichnungen geführt werden und ob die Regeln vor Arbeitsbeginn klar waren. Sie kann nicht jeden Aspekt der Urheberschaft beweisen, aber sie kann Belege liefern, die ein fertiges Dokument allein nicht bietet.

Die praktische Veränderung ist erheblich. Statt über einen Prozentwert zu streiten, verfügen eine Bildungseinrichtung oder ein Verlag über eine Dokumentation der Arbeitsentwicklung – und damit über eine Grundlage für ein faires, evidenzbasiertes Gespräch.

---

Wie Mentafy Transparenz über den Schreibprozess schafft

Mentafy Trail macht den persönlichen Beitrag eines Autors durch regelmäßig eingereichte Momentaufnahmen oder Entwürfe sowie ein Rechercheprotokoll sichtbar. Autoren können ihre eigene Dokumentation einsehen und Kontext oder Kommentare ergänzen. Der Ansatz setzt weder auf Tastaturüberwachung noch auf Kamerabeobachtung oder Bildschirmaufzeichnung.

Mentafy bietet außerdem eine KI-Textklassifizierung an. Wir behandeln ihre Ergebnisse als Hinweise, die eine genauere Prüfung rechtfertigen können, niemals als Urteil über die Urheberschaft. Durch die Kombination von Signalen aus dem fertigen Text mit Belegen aus dem Schreib- und Rechercheprozess können Bildungseinrichtungen fundiertere Einschätzungen zur KI-Nutzung, zur Quellenverwendung und zum persönlichen Beitrag treffen.

Ob Sie studentische Arbeiten bewerten oder Bücher veröffentlichen: Erfahren Sie, wie unsere Tools funktionieren, oder sprechen Sie direkt mit uns.