2026年8月2日以降、AI法第50条は猶予なく適用される。これは、2026年夏に(EU)2026/1744規則によって改正された第4条とは異なる。この条文はモデル提供者だけでなく、アシスタントを公開する企業、生成されたビジュアルを掲載する企業、AIによって作成されたテキストを配信する企業にも直接適用される。
4つの義務、2種類の関係者
第50条は、AIシステムを開発または市場に投入する提供者と、自社の活動においてそれを使用する導入者を区別している。個人と直接対話することを目的としたシステムの提供者は、合理的に情報を得た個人にとってそれが明白でない限り、相手がAIと対話していることを認識させるよう努めなければならない。
さらに、テキスト、画像、音声、または動画を生成するシステムの提供者は、これらの出力を機械可読形式でマーキングし、人工物として検出可能にする必要がある。一方、感情認識や生体認証分類システムの導入者は、それらにさらされる個人に対して事前に通知しなければならない。
最後に、高度に改変された画像、音声、動画、すなわちディープフェイクを配信する導入者は、それらが生成または操作されたものであることを表示しなければならない。同じ規則は、公的な関心事項について公衆に情報提供するために公開されたテキストにも適用される。ただし、人間による校正が行われ、編集責任者が存在する場合は除く。
マーキングに関する唯一の柔軟性
2026年8月2日以前に市場に投入された生成システムは、(EU)2026/1744規則に従い、2026年12月2日までにマーキングを適用する猶予がある。他の義務については猶予期間は設けられなかった。生成コンテンツの透明性に関する実践規範は今夏に最終化された。これは義務ではないが、方法論を提案している。
これらの義務は主にOpenAI、Microsoft、Mistralに関係すると言われることが多い。彼らのモデルの出力マーキングについては確かにそうだが、例えば企業が独自のアシスタント(Copilot StudioエージェントやAPI上に構築され自社名で展開されるチャットボットなど)を構築する場合、その企業はそのシステムの提供者と見なされる可能性があり、ユーザーへの情報提供はその企業の責任となる。ディープフェイク、公共の利益に関するテキスト、感情認識に関する導入者の義務は、いかなる場合でもその企業に残る。
確認すべき事項
顧客や従業員に公開されるすべての会話エージェントは、例えば「自動化されたアシスタントと対話中です」などの文言で、最初のやり取りの際に自らを明示しなければならない。法的免責事項ページの下部ではなく。音声エージェントも同様に対象となる。現実的な人物、場所、イベントを描写する生成されたビジュアル、音声、動画は、本物と見なされる可能性がある場合はすぐに表示を付ける必要がある。明らかに創造的または風刺的な作品の場合は、控えめな表示で十分である。
公開されたテキスト、ブログ記事、プレスリリース、ニュースレターは、人間による校正や特定された編集責任者なしで生成された場合、表示が必要である。文書化された校正は依然として最良の保護策である。さらに、職場における感情認識は、医療または安全上の理由を除き、第5条で禁止されている。これは、「エンゲージメントを測定する」人事やコールセンターのツールを注意深く検討する必要があることを示唆している。購入したツールについては、提供者に対し、出力のマーキングが実施されているか、または12月2日までに予定されているかを確認する必要がある。
リスク
第50条への違反は、最大1500万ユーロまたは全世界売上高の3%の罰金の対象となり、いずれか高い方が適用される。中小企業の場合は、2つのうち低い方が適用される。第4条のためにAIの使用状況をすでに棚卸ししている企業は、作業基盤を持っている。そこに4つの質問を追加すればよい:ツールは個人と直接対話するか、外部に配信されるコンテンツを生成するか、規則上の意味での提供者は誰か、そしてどのような表示が実施されているか?
