Am 2. November 2026 veröffentlichte die südkoreanische Nationale Gerichtsverwaltung (법원행정처), eine der Obersten Gerichtshof unterstellte Verwaltungsbehörde, die Ergebnisse einer Untersuchung zu fehlerhaften, von KI generierten Referenzen in Gerichtsschriftsätzen. Die vom 6. bis 16. Oktober unter Richtern aller Instanzen durchgeführte Umfrage erbrachte 360 Antworten. Etwa 80 % der befragten Richter in Zivil-, Familien- und Verwaltungssachen gaben an, bereits auf Zitate von falschen oder nicht existierenden Entscheidungen gestoßen zu sein. Die Behörde hält eine Änderung der Zivil- und Strafprozessordnungen für notwendig, um eine gesetzliche Grundlage, unter anderem für eine Geldbuße, zu schaffen.
Von nicht auffindbaren Urteilen bis zu gefälschten Entscheidungen
Unter den Richtern, die die Frage nach den Fehlerarten beantworteten, hatten 196 (80,7 %) Zitate einer nicht existierenden Entscheidung gesehen, 159 (65,4 %) eine verfälschte Entscheidung, 41 (16,9 %) ein falsches oder nicht existierendes Gesetz und 10 (4,1 %) einen falschen oder nicht existierenden Fachartikel oder ein Fachbuch. Ein Richter konnte mehrere Kategorien ankreuzen. Das Dokument nennt weder die Anzahl der befragten Richter noch die Rücklaufquote.
Die von der Verwaltung genannten Beispiele gehen über schlicht falsch abgeschriebene Referenzen hinaus. Parteien haben gefälschte, von KI generierte Urteile eingereicht, die das Format der Entscheidungen des Obersten Gerichtshofs nachahmten. Andere führten für die Richter unbekannte Rechtsargumente an, versehen mit einer Aktennummer des Obersten Gerichtshofs, die sich durch keine Recherche finden ließ. In einigen Fällen waren Fragmente des KI-Chats oder strategische prozessuale Notizen unverändert enthalten.
Dieser letzte Fall ist auch in Frankreich dokumentiert: In einer Verfügung vom 9. Dezember 2025 entschied das Verwaltungsgericht Grenoble über einen Antrag, bei dem der Chatbot-Austausch im eingereichten Text stehengeblieben war.
Betroffene sind sowohl Prozessparteien als auch Anwälte
Zur Herkunft der falschen Referenzen nannten 164 Befragte (69,5 %) die selbst handelnden Parteien und 136 (57,6 %) Anwälte, unabhängig davon, ob sie eine Partei vertreten oder in Strafsachen die Verteidigung übernehmen. Die Mitteilung betont diese zweite Zahl: Erfundene Referenzen tauchen auch in großer Zahl in Schriftsätzen von Anwälten auf.
Zwei ausländische Fälle werden als Referenz genannt. Am 22. Juni 2023 verhängte der US-Bundesrichter P. Kevin Castel im Fall Mata v. Avianca in New York eine gemeinschaftliche Geldstrafe von 5.000 Dollar gegen zwei Anwälte und ihre Kanzlei. Am 6. Juni 2025 fällte die Divisional Court des High Court of England and Wales das Urteil Ayinde, das das Spektrum möglicher Reaktionen von öffentlicher Rüge bis zur Weiterleitung an die Polizei darlegt. In dem damit verbundenen Fall Al-Haroun existierten 18 der 45 vorgelegten Referenzen nicht.
Eine zu schaffende gesetzliche Grundlage, geprüfte Maßnahmen
Zu diesem Zeitpunkt nennt die Mitteilung weder Höhe, Zeitplan noch zuständige Behörde für die Verhängung der Sanktion. Der verwendete Begriff, 과태료, bezeichnet im koreanischen Recht eine nicht-strafrechtliche Geldbuße. Bezüglich der Maßnahmen halten 91,7 % der Befragten eine institutionelle Reaktion für notwendig. Unter den vorgeschlagenen Ansätzen befürworten 61,4 % eine gesetzliche Grundlage für die Geldbuße, 61,1 % eine Überprüfungspflicht für zitierte Entscheidungen, 60,6 % eine Meldepflicht für die KI-Nutzung und 55,4 % Sanktionen wie ein disziplinarisches Verfahren gegen Anwälte bei wiederholten falschen Zitaten.
Die vom Forscher Damien Charlotin geführte Datenbank AI Hallucination Cases verzeichnet zum 31. Oktober 2026 weltweit 2.246 gerichtliche Entscheidungen, davon 1.517 in den USA, 14 in Frankreich und 8 in Südkorea. Sie weist selbst darauf hin, dass sie nicht alle bei Gerichten eingereichten falschen Zitate abdeckt. Die 14 französischen Entscheidungen in dieser Datenbank stammen alle aus Dezember 2025 oder später.
