2 listopada 2026 roku Narodowa Administracja Sądów Korei Południowej (법원행정처), organ zarządzający podległy Sądowi Najwyższemu, opublikowała wyniki dochodzenia dotyczącego błędnych odniesień wytworzonych przez AI w pismach sądowych. Przeprowadzone od 6 do 16 października wśród sędziów wszystkich jurysdykcji, zebrało 360 odpowiedzi, a około 80% respondentów sędziów prowadzących sprawy cywilne, rodzinne i administracyjne twierdzi, że już widziało cytaty z fałszywych lub nieistniejących orzeczeń. Instytucja uważa za konieczne zmodyfikowanie kodeksu postępowania cywilnego i kodeksu postępowania karnego, aby stworzyć podstawę prawną, m.in. dla nałożenia grzywny.
Od nieznalezionych wyroków po fałszywe orzeczenia
Wśród sędziów, którzy odpowiedzieli na pytanie o rodzaje błędów, 196 (80,7%) widziało cytowanie orzeczenia, które nie istnieje, 159 (65,4%) – sfałszowanego orzeczenia, 41 (16,9%) – fałszywego lub nieistniejącego tekstu prawa, a 10 (4,1%) – fałszywego lub nieistniejącego artykułu lub dzieła doktryny. Ten sam sędzia mógł zaznaczyć kilka opcji. Dokument nie precyzuje ani liczby zapytanych sędziów, ani wskaźnika odpowiedzi.
Przykłady przytoczone przez administrację wykraczają poza zwykłe błędne przepisanie odniesienia. Strony składały fałszywe orzeczenia wygenerowane przez AI, naśladujące format wyroków Sądu Najwyższego. Inne powoływały się na rozumowanie nieznane sędziom, wraz z numerem sprawy Sądu Najwyższego, którego żadne poszukiwania nie mogły odnaleźć. W niektórych przypadkach w tekście pozostały fragmenty rozmowy z AI lub notatki dotyczące strategii procesowej.
Ten ostatni przypadek jest udokumentowany we Francji: w postanowieniu z 9 grudnia 2025 roku sąd administracyjny w Grenoble rozstrzygał wniosek, w którym wymiana z chatbotem pozostała w złożonym tekście.
Sprawcy to zarówno strony, jak i adwokaci
Jeśli chodzi o źródło fałszywych odniesień, 164 respondentów (69,5%) wskazało strony działające samodzielnie, a 136 (57,6%) – adwokatów, niezależnie od tego, czy reprezentują oni stronę, czy prowadzą obronę w sprawie karnej. Komunikat podkreśla tę drugą liczbę: wymyślone odniesienia również w dużej liczbie pojawiają się w pismach adwokatów.
Jako odniesienie przywołano dwie zagraniczne sprawy. 22 czerwca 2023 roku w Nowym Jorku sędzia federalny P. Kevin Castel nałożył w sprawie Mata v. Avianca karę w wysokości 5000 dolarów, solidarnie, na dwóch adwokatów i ich kancelarię. 6 czerwca 2025 roku Divisional Court High Court Anglii i Walii wydał wyrok Ayinde, który przypomina zakres możliwych reakcji, od publicznej nagany do przekazania sprawy policji. W dołączonej do poprzedniej sprawie sprawie Al-Haroun, 18 z 45 przedstawionych odniesień nie istniało.
Do stworzenia podstawa prawna, rozważane środki
Na tym etapie komunikat nie ustala ani kwoty, ani harmonogramu, ani organu właściwego do wymierzenia sankcji. Użyty termin 과태료 oznacza w prawie koreańskim niekarną sankcję pieniężną. Jeśli chodzi o środki, 91,7% respondentów uważa za konieczną instytucjonalną odpowiedź. Wśród proponowanych rozwiązań, 61,4% opowiada się za podstawą prawną dla grzywny, 61,1% za obowiązkiem weryfikacji cytowanych orzeczeń, 60,6% za obowiązkiem deklarowania użycia AI i 55,4% za sankcjami, takimi jak skierowanie sprawy adwokata do dyscyplinarnej w przypadku powtarzających się fałszywych cytowań.
Baza AI Hallucination Cases, prowadzona przez badacza Damiena Charlotina, odnotowuje na dzień 31 października 2026 roku 2246 orzeczeń sądowych na świecie, w tym 1517 w Stanach Zjednoczonych, 14 we Francji i 8 w Korei Południowej. Sama wskazuje, że nie obejmuje wszystkich fałszywych cytowań złożonych przed sądami. Wszystkie 14 francuskich orzeczeń w tej bazie pochodzi z grudnia 2025 roku lub później.
