欧州連合が人工知能法の適用を準備する中、AIシステムを支えるデータの質は、その法的適合性よりも注目を集めていない。分析の著者らは、モデルが決定的なテストに合格し規制要件を満たしていても、その技術的信頼性が保証されるわけではないと主張する。
欧州AI法の施行期限に関する不確実性、およびEUのサイバーセキュリティと人工知能に関する行動計画の枠組みで予想される新たな要件は、欧州企業の情報システムセキュリティ責任者(RSSI)の大きな関心事となっている。AIシステムが「信頼できる」と見なされるためには、サンドボックス(隔離されたテスト環境)でのテストを成功させ、特定の規制基準を満たさなければならない。しかし、公式の適合性と運用上の安全性は必ずしも同義ではない。
データは、最も見過ごされがちな要素である。モデルに提供されるデータが冗長、陳腐化、または取るに足らないもの、いわゆるROTデータである場合、コントロールは無効となる。
未だ不完全な基準
欧州のAI規制はここ数ヶ月で進化を続けている。適合性評価に必要な技術基準が未完成であるため、高リスク環境で展開されるAIシステムに適用される主要な適合性達成期限は、2026年8月から2027年12月に延期された。
評価基準の欠如を補うため、欧州連合はこの延期発表の数週間後に行動計画を公表した。この計画は法的な制約を追加するものではない。その代わりに、保護されたテスト環境、ガイドライン、および商用化前の評価ツールを提供し、先進的なAIが安全に展開され、AI規則およびNIS2指令に適合し続けることを目指している。
この枠組みは、分析によれば、安全なモデルの開発を促進するが、それはサプライチェーンの一部しかカバーしていない。適合性証明書を取得するためには、セキュリティチームがコードを詳細に調査し、証拠書類を収集する必要がある。しかし、安全で適合性のあるAIツールも、誤用されれば不規則な結果を生み出す可能性がある。
人的エラーは、大多数の場合、深刻化する前に発見される。しかし、中規模企業において、非人間のアイデンティティと自律エージェントの数は、人間の従業員の82倍に上る。AIエージェントの場合、エラーは非常に速く伝播し、欠陥のある情報は、最も保護されたモデルをも、警告を発することなく損なう可能性がある。
データの隠れたコスト
企業はモデルを注意深く検討するが、それらを支える情報にはあまり注意が払われない。データの問題が取り上げられる場合、それは主にセキュリティの観点からであり、品質の観点からは稀である。
企業が保存するデータの約80%は非構造化形式であり、陳腐化したクラウドインフラに数十年にわたって蓄積された大量のROTファイルを含んでいる。AIエージェントにこれらのデータを与えることは、それらを破損させ、歪んだ分析に基づく選択へと導き、サンドボックスで実施されたテストが決定的な結果を示した場合でも、非適合状況を引き起こす可能性がある。
これらのしばしば重複する不要なデータの管理は、組織の会計では特定が困難な費用も生み出す。計算リソースとクラウドリソースが、価値のない情報を処理するために動員される。大手テクノロジーグループの人工知能向け資本支出(CapEx)は6500億ドルの大台を突破したが、分析が指摘するように、欧州の文書は、これらのシステムを支えるデータのコストを依然として無視している。
