Der Hessische Verwaltungsgerichtshof nutzte bei einem Beschluss vom 24. Juni 2026 ChatGPT zur Recherche über georgische Rechtsquellen. Durch das Übernehmen von Links mit der Endung source=chatgpt.com wurde die KI-Nutzung belegbar, wobei das Gericht einräumte, dass einige der verlinkten Quellen die zitierten Regierungsdekrete nicht belegten.
Es ist ein Fehler, der in der digitalen Spur eines offiziellen Gerichtsdokuments überlebt hat. Der Hessische Verwaltungsgerichtshof hat in einem Verfahren zum Aufenthaltsrecht ukrainischer Staatsangehöriger generative KI eingesetzt, um schwer zugängliche georgische Rechtsquellen zu finden. Doch statt die Ergebnisse anonymisiert zu integrieren, landeten die direkten Verweise der KI im finalen Text.
In dem Beschluss mit dem Aktenzeichen 3 A 2624/25 geht es darum, ob Ukrainer ein Aufenthaltsrecht in der EU besitzen, wenn sie nach dem Kriegsausbruch zunächst nach Georgien und erst Jahre später nach Deutschland gereist sind. Für die Klärung dieser grundsätzlichen Rechtsfrage schaltete das Gericht den Europäischen Gerichtshof (EuGH) in Luxemburg ein. Die Aufmerksamkeit richtet sich nun jedoch auf die Art und Weise der Quellenrecherche.
Fünf Links mit dem Stempel source=chatgpt.com
Die Entdeckung der KI-Nutzung war laut Berichten der FAZ und von Heise kein Zufall, sondern das Ergebnis einer Analyse der Quellenverweise. In dem Dokument tauchen insgesamt fünf Webverweise auf, die die Endung source=chatgpt.com tragen. Damit ist die Nutzung von OpenAIs ChatGPT als Recherchewerkzeug direkt im Text dokumentiert.
Das Problem bei dieser Arbeitsweise ist die Neigung von Sprachmodellen zu sogenannten Halluzinationen. In diesem Fall führte das zu konkreten Fehlern bei den Belegen. Ein Beispiel: Das Gericht verwies darauf, dass ein georgisches Regierungsdekret vom 24. Februar 2026 das Aufenthaltsrecht für ukrainische Staatsangehörige bis zum 24. Februar 2027 verlängert habe. Der von ChatGPT gelieferte Link führte jedoch zu einem Artikel aus dem Jahr 2025, in dem ein Dekret aus dem Jahr 2026 logischerweise noch nicht erwähnt werden konnte.
Ein weiterer Fehler betraf ein Dekret aus dem Jahr 2015. An einer Stelle im Beschluss suggerierte ChatGPT, es würde auf das Regierungsdekret Nr. 255 von 2015 verlinken. Während der Beschluss darauf basierte, dass sich die Kläger seit 2022 aufgrund dieser Regelung in Georgien aufhielten, führte die verlinkte Website, die in georgischer Sprache abgefasst ist, laut einer Übersetzung tatsächlich zu einer Änderungsvorschrift des Dekrets von 2025. Da sich die Befristungszeiträume zwischen 2022 und 2025 unterschieden, war auch dieser Verweis unpassend.
Die Verteidigung des Verwaltungsgerichtshofs
Das Gericht bestreitet nicht den Einsatz der KI, rechtfertigt ihn jedoch mit der schwierigen Zugänglichkeit georgischer Rechtsquellen. KI-Tools halfen dabei, Informationen überhaupt erst auffindbar zu machen, die mit anderen Instrumenten nicht ohne Weiteres zugänglich gewesen wären. Das Gericht betonte, ChatGPT nicht als einzige Informationsquelle genutzt zu haben, sondern auch weitere Quellen herangezogen zu haben, „um die Rechtslage ukrainischer Staatsangehöriger in Georgien umfassend zu klären. Aus diesem Grund wiesen andere in der Entscheidung zitierte Quellen über ChatGPT hinaus.
Gegenüber der FAZ räumte das Gericht ein, dass die spezifische Fundstelle zum Dekret vom Februar 2026 keinen Beleg lieferte. Das Gericht erklärte: „Soweit auf das Regierungsdekret vom 24. Februar 2026 Bezug genommen wird, findet dies keinen Beleg in der Fundstelle“. Dennoch betont der Gerichtshof, dass die Entscheidung inhaltlich korrekt bleibe. Die Verlängerung der Regelung bis zum Jahr 2027 ergebe sich zwar nicht aus der zitierten Quelle, lasse sich aber einer anderen Quelle entnehmen, die dem Gericht bei seiner Beratung vorlag. Die Rechtslage sei durch weitere, unabhängig von ChatGPT recherchierte Quellen abgesichert worden. Eine eigene Überprüfung der FAZ bestätigte, dass die wesentlichen Aussagen des Beschlusses inhaltlich zutreffen und keine Korrektur notwendig sei.”
Bezüglich des fehlerhaften Links zum Dekret von 2015 argumentierte das Gericht, dass die aktuelle Fassung aus dem Jahr 2025 den materiellen Regelungsgehalt des Befreiungstatbestandes nicht entwerte und an anderer Stelle auf die passende Fassung verwiesen werde.
Richterliche Unabhängigkeit und Datenschutz
Ein zentraler Punkt der Debatte ist die Frage, ob solche verräterischen Spuren künftig aus den Dokumenten entfernt werden. Der Hessische Verwaltungsgerichtshof ließ offen, ob die Kennzeichnung „source=chatgpt.com“ künftig aus den Links in seinen Entscheidungen entfernt werde, und verwies auf die richterliche Unabhängigkeit. „Die Zitierweise gehört ebenso wie insgesamt das Abfassen von Entscheidungsgründen dem Bereich der richterlichen Unabhängigkeit an, hieß es laut Mitteilung. In diesem Rahmen dürften Richter KI-Werkzeuge wie ChatGPT zu Recherchezwechezwecken einsetzen.
”
Trotz der Verteidigung des KI-Einsatzes setzte das Gericht eine klare Grenze beim Datenschutz. Die Nutzung von KI-Tools sei zwar zulässig, es müsse jedoch strikt beachtet werden, dass keine sensiblen Daten in die Systeme eingespeist werden. Zudem müsse jede KI-Auskunft aufgrund der Fehleranfälligkeit sorgfältig gegengeprüft werden.
Verbotene Inhalte: Personenbezogene Daten, Akteninhalte, Dienst- und Geschäftsgeheimnisse.
Vorgeschriebene Praxis: Eine Gegenkontrolle jeder KI-Auskunft aufgrund der Fehleranfälligkeit.
Der Fall macht die Grenzen aktueller KI-Systeme in der Justiz sichtbar: Während sie als mächtige Suchmaschinen fungieren können, bleibt die Verifizierung der Quellen eine zwingende menschliche Aufgabe. Ob die Justiz künftig transparenter mit diesen Werkzeugen umgeht oder die Spuren aktiv löscht, bleibt der Entscheidung der einzelnen Richter überlassen.
Auch interessant
