欧州議会、aiの暴走に警鐘を鳴らす

議会内で開催されたAIに関するイベントで、議長はこれらのツールが政治的交渉や議員の判断を代替できないことを改めて強調した。「AIの助けを借りて修正案を起草することは、基本的に同僚との建設的な意見交換に取って代わることはできない」と彼女は述べた。

この警告は法的調査にも当てはまる。AIモデルが提供する回答は、特に複雑な決定に直面した際の識別力と批判的思考を議員が発揮する必要性を免れるものではない。メッツォラ議長はまた、民主的責任についても強調している。市民は立法プロセスにおけるAIの利用について知らされるべきであり、採択された決定に対して責任を負う議員を明確に特定できるべきである。

既に認識されるリスク

一部の修正案には存在しない法律文書への言及が含まれており、生成AIツールが引き起こし得る誤りや「幻覚」（自信を持って提示される誤った回答）を例示している。アレッサンドロ・キオケッティ事務総長は、誤った法的助言を求めてAIに問い合わせた欧州議会議員の事例を報告した。議会の法務担当者はその後、ChatGPTが提供した回答が誤りであることを証明するのに2日間を費やしたという。

議会は議員向けの新たな勧告を準備しており、近く議会の指導部に提示される予定である。現在、欧州議会議員はAIの利用を宣言する義務はなく、これらの勧告を拘束力のあるものとするには議会の内部規則を改正する必要がある。2024年に制定された職員向けの規則についても見直しが行われている。

事務総長は、検討中の原則を3つのルールにまとめた。人工知能の利用について透明性を確保すること、機密文書を公共のツールに送信しないこと、生成されたコンテンツを公開前に体系的に検証することである。議員とそのスタッフが機密情報や立法作業文書を扱う中で、これは不可欠な予防策である。並行して、議会は最も機密性の高い作業を処理するため、内部インフラストラクチャー上にホストされた独自のAIツールを開発している。POLITICOが7月に報じたところによると、ChatGPT、Claude、Llamaなどの商用モデルは、機密性の低い作業には引き続き使用可能である。

支援ツールとしてのAI

とはいえ、欧州議会はAIが提供する可能性を放棄するつもりはない。アレッサンドロ・キオケッティ事務総長は特に、議員の審査に提出される数千件の修正案を分析・分類する際のこれらの技術の有用性を強調している。AIはこのようにして、特定の文書作業を容易にし、準備作業を加速させ、スタッフの負担を軽減する可能性がある。ただし、事務総長は、法律の起草と審議は議員の仕事として残されるべきであると付け加えている。