Professor überführt Studenten mit ChatGPT-Falle in Klausur

Prompt Injection in der Industriellen Revolution

An der Alcorn State University im US-Bundesstaat Mississippi griff Jason Gibson, ein Geschichtsprofessor an der Alcorn State University in Mississippi, zu unkonventionellen Mitteln, um unerlaubte Hilfe bei einer Zwischenprüfung zum Thema industrielle Revolution aufzudecken. Er versteckte unsichtbaren weißen Text direkt in den Aufgaben der Prüfung. Dieser enthielt eine spezielle Anweisung, die ChatGPT dazu brachte, zufällige Abschweifungen über Madagaskar in die Antwort einzuflechten. Bei dem Trick handelt es sich um sogenannte Prompt Injection. Diese Methode wird normalerweise von Cyberkriminellen verwendet, um KI-Tools zu manipulieren. Gibson nutzte sie, um unerlaubte KI-Nutzung nachzuweisen.

Das Ergebnis der digitalen Klausur fiel deutlich aus. Genau 32 von 35 Studenten fielen auf diese Falle herein. Die meisten seiner Studenten hätten die Aufgabe einfach in einen Chatbot kopiert, „um ihre gesamte Antwort zu generieren, heißt es auf t3n.de. Die Studierenden hätten nicht einmal überprüft, ob der Text überhaupt Sinn ergibt.

Die weltweite Dimension des akademischen KI-Schummelns

Der Vorfall in Mississippi steht keineswegs isoliert da, wie aktuelle Erhebungen belegen. In einer 2026 survey of 1,054 UK undergraduate students by the Higher Education Policy Institute in Oxford, UK, roughly 94% said that they use generative artificial-intelligence tools to help them with assessed work, and 12% directly inserted AI-generated text into their coursework. In a study published in May, from survey data of more than 95,000 students at 20 US universities, the authors estimated that 9% of students used AI on their coursework, despite knowing that this broke the rules.

Educators worldwide are seeing suspicious signs of AI use — from hallucinated references to punctuation styles that are typical of AI tools — in take-home coursework and online examinations, fuelling worries that the technology is giving some students an unfair advantage over those who don’t use it. At one point, people were submitting essays in which 50% of the reference literature did not exist in real life, says Nikita Bezrukov, who teaches linguistics and communication at the Massachusetts Institute of Technology in Cambridge.

Konsequenzen für die ertappten Studenten

Die Konsequenzen für die überführten Teilnehmer waren spürbar hart. Wegen der unerlaubten KI-Nutzung seien die ertappten Studenten zumindest teilweise durch die Prüfung durchgefallen. Gibson stellte den Fall in einem TikTok-Video vor.

Zugleich betonte der Lehrende, dass es ihm keineswegs um die Demütigung seiner Klassen ging. „Es bereitet mir keine Genugtuung, zu sehen, wie Studenten durchfallen. Es ist nicht meine Absicht, euch scheitern zu sehen – das wäre seltsam, sagt er. Zugleich benannte Gibson ein grundlegendes Problem: Im akademischen Bereich gebe es noch keine bewährten Verfahren für den Umgang mit KI. Alle würden nur versuchen, dabei ein gewisses Maß an akademischer Integrität zu wahren.

Wie Hochschulen weltweit Prüfungen umgestalten

Angesichts der rasanten technologischen Entwicklung ringen Universitäten international um tragfähige Lösungen. That said, I don’t think anybody has a ‘right’ answer right now, says computer scientist Nicholas Mattei at Tulane University in New Orleans, Louisiana. Things are changing pretty rapidly.

Verschiedene Institutionen erproben inzwischen völlig neue Wege, um KI in den Lehrplan einzubinden oder die Leistung zu bewerten. Nicholas Mattei beschreibt seine Praxis wie folgt: „For an assignment in my history-of-technology class, students have to identify sources, use three LLMs to summarize them and critique what the models say. Then, they make infographics and write an essay, for which AI use is allowed. They get extra points if they notice when the infographics don’t accurately reflect the sources or if the LLMs hallucinate references. The goal is to prompt more critical reflection on what comes out of LLMs.