人工知能の「幻覚」が英国の法廷に混乱をもたらす

見つからない判例に基づくメモ

4月21日、性的暴力を専門とする英国の検察官ラヴィンダー・ディロンは、少年に対する起訴を正当化するためのメモを作成した。容疑とされる行為が行われた当時、少年は11歳、妹は7歳だった。

少年の弁護士は、ソーシャルワーカーや心理学者の意見を主な根拠として、起訴の中止を要求した。しかし検察官は、容疑があまりにも重大であると判断した。その決定を裏付けるため、彼女は2024年に下されたとされる控訴裁判所の判決（控訴審での判決）を3度にわたり引用した。その判決には正確な参照番号さえあったが、弁護士がメモを精査したところ、そのような判決は存在しないことが判明した。

検察官は誤りを認め、2009年の別の判決を引用するつもりだったと主張した。フランスインフォが閲覧した判決文の中で、ロンドン高等裁判所の裁判官たちはこの説明を「不十分」と評している。

AI生成の要約が原因か

ガーディアン紙が11月3日火曜日に発表した調査によると、この虚偽の参照情報は、インターネット検索時に人工知能が生成した要約に由来する可能性がある。英国検察庁は、詳細は明かさないものの、検索エラーがあったことを認めている。

一方、ロンドンの弁護士マシュー・リーは現在、AIに関連する可能性のある法的誤りの報告101件を記録している。これは、確認済み、疑いのある、または争われている事例を含む。彼によれば、英国の裁判所の判決の多くは公表されないため、この数字は「氷山の一角」に過ぎない可能性がある。

少年の事件に関して、高等裁判所は最終的に、この創作された判例だけでは起訴を覆すには不十分であると判断した。