Im KI-Zeitalter verändern Tools wie ChatGPT, Gemini oder Bing Chat die Art und Weise, wie Studierende lernen und arbeiten. Diese Fortschritte befähigen die Studierenden, geben aber auch Anlass zu ständiger Sorge um die akademische Integrität. Plagiatsprüfprogramme sind in Bildungseinrichtungen zu einem festen Bestandteil geworden. Ihre Nachfolger, die KI-Erkennungsprogramme, versprechen nun, zwischen von Menschen erstellten Arbeiten und KI-generierten Inhalten zu unterscheiden. Ihre Wirksamkeit wird in der wissenschaftlichen Gemeinschaft heftig diskutiert. Und je weiter die KI-Technologie voranschreitet und die generierten Texte immer menschlicher werden, desto mehr wird die Zuverlässigkeit dieser Tools zur Erkennung von Fehlverhalten in Frage gestellt.

Die Grenzen von KI-Erkennungstools

Während sich herkömmliche Plagiatsprüfprogramme durch das Auffinden kopierter Inhalte auszeichnen, haben Lehrende mit einer neuen Herausforderung zu kämpfen: der Erkennung von KI-generiertem Text. Plagiatsoftware sucht nach übereinstimmenden Phrasen, Sätzen oder Absätzen in einer umfangreichen Datenbank mit bestehenden Inhalten. KI-generierter Text wird in der Regel jedoch völlig einzigartig sein, so dass dieser Ansatz dabei nicht hilft. KI-generierten Text von menschengeschriebenem Text zu unterscheiden, bringt neue Probleme mit sich:

• Probleme mit der Genauigkeit: KI-Detektoren haben oft mit falsch-positiven Ergebnissen (Kennzeichnung von Originalarbeiten als KI-generiert) und falsch-negativen Ergebnissen (fehlende Instanzen von KI-generiertem Text) zu kämpfen. Untersuchungen zeigen, dass die leistungsfähigsten KI-Erkennungstools nur eine Erfolgsquote von etwa 50 % bei der genauen Identifizierung von KI-generiertem Text erreichen. Diese Inkonsistenz lässt Zweifel an ihrer Zuverlässigkeit aufkommen, wenn sie als alleinige Maßnahme zur Erkennung von KI-generierten Inhalten im akademischen Umfeld eingesetzt werden.
• Bedenken bezüglich der Voreingenommenheit: Abgesehen von der Frage der Effektivität gibt es dringende Bedenken hinsichtlich der Fairness von KI-Erkennungstools. Es gibt immer mehr Belege dafür, dass KI-Erkennungstools voreingenommen sein können, insbesondere gegenüber Nicht-Muttersprachlern, deren Syntax oder Ausdrucksweise von der Norm abweichen könnte, wodurch dann fälschlicherweise von der Erkennungssoftware ein Alarm ausgelöst wird (Search Engine Journal)​. Diese Voreingenommenheit kann zu einer ungerechten Benachteiligung von Autoren führen, die ohnehin bereits durch Sprachbarrieren benachteiligt sind.
• Transparenz und Methodik: Viele KI-Erkennungssysteme arbeiten als „Black Boxes“ mit proprietären Algorithmen, die nicht überprüft werden können. Pädagogen und Lernende wissen oft nicht, warum bestimmte Texte markiert werden, was das Vertrauen in diese Tools untergräbt und es schwierig macht, gegen Entscheidungen, die auf ihren Ergebnissen basieren, Einspruch einzulegen oder sie zu korrigieren.

Warum die KI-Prüfergebnisse nicht als selbstverständlich angesehen werden sollten

Auf KI-Erkennungstools für akademische Bewertungen zurückzugreifen birgt erhebliche Risiken:

• Ausschließliche Bewertung des Endprodukts: KI-Detektionssoftware bewertet die endgültige Einreichung, ohne einen Einblick in den Schreibprozess zu geben. Sie berücksichtigt nicht die Recherchen, Entwürfe oder die Entwicklung der eingereichten Arbeit. Dieser Ansatz könnte die Bewertung des Lernerfolgs und der geleisteten Recherchearbeit abhalten und sich stattdessen auf Strafmaßnahmen für das Endergebnis konzentrieren.
• Hemmung des Bildungswachstums: Wenn Schülern nur beigebracht wird, wie sie eine Entdeckung vermeiden können, lernen sie möglicherweise nicht nachhaltig genug, wie man ethisch korrekt forscht, richtig zitiert und sich kritisch mit Quellen auseinandersetzt. Die Lehre sollte natürlich diese Fähigkeiten fördern, anstatt nur das Endprodukt zu kontrollieren.
• Falsche Sicherheit: Ein übermäßiger Rückgriff auf diese Instrumente kann den Lehrenden ein falsches Gefühl der Sicherheit vermitteln, da sie glauben, dass sie Fehlverhalten wirksam bekämpfen und Standards aufrechterhalten. Dies kann zu Selbstgefälligkeit führen und die Notwendigkeit einer umfassenderen Aufklärung über akademische Integrität und den Einsatz von KI außer Acht lassen.

Die Rolle von KI-Detektoren im Bildungswesen

In Anbetracht dieser Herausforderungen ist es klar, dass KI-Detektoren nicht die einzige Strategie sein sollten, um die Verwendung von nicht autorisierten KI-Inhalten im Bildungsbereich zu bekämpfen. Stattdessen sollten sie maximal als Teil in einem umfassenderen pädagogischen Rahmens eingesetzt werden, der die Entwicklung von kritischem Denken und digitaler Kompetenz in den Vordergrund stellt.

Experten für Bildungstechnologie schlagen vor, KI-Detektoren als pädagogische Werkzeuge und nicht als Strafmaßnahmen einzusetzen. Dieser Ansatz kann Studierenden helfen, die Nuancen von KI-generierten Inhalten und die Bedeutung akademischer Integrität zu verstehen und so ihre Lernerfahrung zu verbessern.

Oder brauchen wir diese Form von KI-Dektektionssoftware überhaupt? – Mentafy stellt sich vor:

• Von reaktiv zu proaktiv: Wenn wir über die Notwendigkeit eines ganzheitlichen Ansatzes für akademische Integrität nachdenken, ist es klar, dass neue Lösungen notwendig sind. Hier kommt Mentafy ins Spiel – eine Plattform, die nicht nur zur Erkennung, sondern auch zur Aufklärung und Integration während des gesamten akademischen Prozesses entwickelt wurde.
• Mehr als nur das Endprodukt analysieren: Mentafy bietet einen proaktiven Ansatz, indem es sich in den akademischen Prozess des Studenten einbettet und ihm Feedback und Beratung bietet. Dabei geht es nicht darum, Studenten im Nachhinein zu erwischen, sondern sie von Anfang an anzuleiten und sicherzustellen, dass sie die Grundsätze der Integrität in ihrer Arbeit verstehen und umsetzen.
• Stärkung von Schülern und Pädagogen: Durch die Dokumentation und Analyse des gesamten Forschungs- und Schreibprozesses bietet Mentafy einen einzigartigen Einblick in das Lernverhalten der Studenten und fördert eine Kultur der Ehrlichkeit und Kreativität. Es hilft Pädagogen, nicht nur das „Was“ von Schülerbeiträgen zu verstehen, sondern auch das „Wie“ und „Warum“, wodurch eine tiefere, sinnvollere Beschäftigung mit akademischer Arbeit gefördert wird.

Der Weg in die Zukunft

Mit der zunehmenden Verbreitung von KI im Bildungsbereich muss der Schwerpunkt nicht nur auf der Erkennung der KI-Nutzung liegen, sondern auch auf deren Verständnis und Steuerung. Die Bildung muss sich in Richtung eines integrierten Ansatzes entwickeln, der dem Lernprozess und der persönlichen Entwicklung Vorrang vor einfachen Ergebnisbewertungen einräumt.

Durch den Einsatz von Tools wie Mentafy können Pädagogen und Institutionen die Grenzen aktueller KI-Erkennungstools überwinden und ein Umfeld schaffen, in dem die Schüler in der Lage sind, KI verantwortungsvoll und transparent zu nutzen. Dieser Wandel ist für die Ausbildung von gut ausgebildeten, ethisch denkenden Akademikern im digitalen Zeitalter unerlässlich.