Op 2 november 2026 heeft de Nationale Rechtbankadministratie van Zuid-Korea (법원행정처), het managementorgaan verbonden aan het Hooggerechtshof, de resultaten van een onderzoek gepubliceerd naar foutieve jurisprudentieverwijzingen gegenereerd door AI in gerechtelijke stukken. Het onderzoek, uitgevoerd van 6 tot 16 oktober onder rechters van alle rechtsgebieden, leverde 360 reacties op. Ongeveer 80% van de respondent-rechters die civiele, familiale en bestuursrechtelijke zaken behandelen, zegt al te maken te hebben gehad met citaten van valse of niet-bestaande vonnissen. De instelling acht het noodzakelijk om het burgerlijk procesrecht en het wetboek van strafvordering aan te passen om een wettelijke basis te creëren, onder meer voor een boete.
Van onvindbare vonnissen tot valse uitspraken
Van de rechters die de vraag over het type fouten beantwoordden, hadden 196 (80,7%) te maken met een geciteerde uitspraak die niet bestaat, 159 (65,4%) met een vervalste uitspraak, 41 (16,9%) met een valse of niet-bestaande wettekst en 10 (4,1%) met een vals of niet-bestaand artikel of doctrinewerk. Een rechter kon meerdere opties aankruisen. Het document specificeert niet hoeveel rechters zijn benaderd noch het responspercentage.
De door de administratie aangehaalde voorbeelden gaan verder dan een simpel verkeerd overgenomen verwijzing. Partijen hebben valse vonnissen ingediend, gegenereerd door AI, die de opmaak van arresten van het Hooggerechtshof kopieerden. Anderen hebben een redenering aangevoerd die onbekend was bij de rechters, vergezeld van een zaaknummer van het Hooggerechtshof dat bij geen enkele zoekopdracht werd teruggevonden. In sommige gevallen stonden fragmenten van het gesprek met de AI of notities over processtrategie letterlijk in het ingediende stuk.
Dit laatste geval is gedocumenteerd in Frankrijk: in een beschikking van 9 december 2025 heeft de administratieve rechtbank van Grenoble een verzoekschrift behandeld waarin de uitwisseling met de chatbot in het ingediende tekstbestand was blijven staan.
Zowel procespartijen als advocaten in het geding
Wat de oorsprong van de valse verwijzingen betreft, wezen 164 respondenten (69,5%) naar partijen die zelf handelden, en 136 (57,6%) naar advocaten, of zij nu een partij vertegenwoordigen of de strafrechtelijke verdediging verzorgen. Het persbericht benadrukt dit tweede cijfer: verzonnen verwijzingen komen ook in groten getale voor in stukken van advocaten.
Er worden twee buitenlandse zaken als referentie aangehaald. Op 22 juni 2023 legde de federale rechter P. Kevin Castel in New York in de zaak Mata v. Avianca een boete van 5.000 dollar op, hoofdelijk, aan twee advocaten en hun kantoor. Op 6 juni 2025 heeft de Divisional Court van de High Court van Engeland en Wales het vonnis Ayinde gewezen, dat het scala aan mogelijke sancties in herinnering brengt, van een publieke berisping tot overdracht aan de politie. In de zaak Al-Haroun, die bij de vorige was gevoegd, bestonden 18 van de 45 ingediende verwijzingen niet.
Een te creëren wettelijke basis, maatregelen in onderzoek
Op dit moment stelt het persbericht geen bedrag, tijdschema of bevoegde autoriteit voor het opleggen van de sanctie vast. De gebruikte term, 과태료, verwijst in het Koreaanse recht naar een niet-strafrechtelijke geldboete. Wat maatregelen betreft, vindt 91,7% van de respondenten een institutioneel antwoord noodzakelijk. Van de voorgestelde opties kiest 61,4% voor een wettelijke basis voor de boete, 61,1% voor een verplichting om de geciteerde vonnissen te verifiëren, 60,6% voor een verplichting om het gebruik van AI te melden en 55,4% voor sancties, zoals het disciplinair aanspreken van advocaten bij herhaalde valse citaten.
De database AI Hallucination Cases, bijgehouden door onderzoeker Damien Charlotin, telde op 31 oktober 2026 wereldwijd 2.246 gerechtelijke beslissingen, waarvan 1.517 in de Verenigde Staten, 14 in Frankrijk en 8 in Zuid-Korea. Zij geeft zelf aan niet alle valse citaten die bij rechtbanken zijn ingediend te dekken. De 14 Franse beslissingen in deze database dateren allemaal van december 2025 of later.
