VicOneは、AIを活用した調査により、物理的AIエコシステムを支えるソフトウェアやツールにおいて、2日足らずで28件のゼロデイ脆弱性を特定したと発表した。対象プロジェクトには、Google、NVIDIA、Metaが開発または保守するプロジェクトが含まれる。本記事はVicOneとの協賛コンテンツです。
ゼロデイ脆弱性とは、これまで知られておらず、修正パッチも利用できない脆弱性を指す。一次検証によると、発見された28件は全てこのカテゴリーに分類される。この件数は、ベンダーや脆弱性管理機関による審査後に変更される可能性があり、一部の発見にはまだ標準的な脆弱性識別子であるCVE追跡番号が割り当てられていない。
これらのツールの多くは、チームがロボットの訓練、シミュレーション、テスト、操作を行う際に役立つ。したがって、いずれかのツールに弱点があれば、チームが設計するモデル、信頼するテスト結果、ロボットに送信される指令に影響を与える可能性がある。
より速く発見される脆弱性
脆弱性の発見には、コードの検査、システム間の通信方法の追跡、疑わしい弱点が実際に悪用可能かどうかの確認が含まれる。VicOneによれば、AIはこの作業の一部を加速し、研究者がより多くのソフトウェアをより短時間で分析できるようにする。ただし、攻撃者も同様の能力を持つ可能性がある。
脆弱性がゼロデイタイプの場合、より迅速な発見は対応時間をほとんど残さない可能性がある。このような公開は必ずしも攻撃が発生したことを意味しないが、チームは影響を受けるソフトウェアを使用しているかどうか、および攻撃者が閲覧または改変できる内容を特定する必要がある。
ライフサイクルの各段階におけるリスク
VicOneの発見は、ロボットのライフサイクルの3つの段階、すなわち開発・訓練、シミュレーション・検証、そして展開・実行に関わる。同社によると、発見の75%は開発、訓練、シミュレーション、または検証ツールに関するものであり、これはロボットが展開される以前にリスクが生じうることを意味する。
訓練段階では、大量のデータで既に学習済みの事前訓練済みモデルが、チームの知らないうちに改変される可能性がある。その場合、通常のテストでは正常に動作するが、展開後に特定の物体、シーン、またはコマンドに対して誤った反応を示す可能性がある。シミュレーション段階では、侵害されたシーンやロボットモデルが、シミュレートされたセンサーデータやテスト結果を改ざんし、誤った証拠に基づいてロボットを承認させる結果につながる恐れがある。
実行段階では、攻撃者が動作計画に影響を与えるファイルを改変したり、オペレーターの監視画面をクラッシュさせる可能性のある悪意のあるマッピングデータを送信したりする可能性がある。VicOneによれば、遠隔操作コンピューターの侵害は、ロボットに送信される指令を危険にさらす可能性もある。VicOneは、これらは各発見について実証された結果ではなく、潜在的な結果であると付け加えている。
別のデモンストレーションでは、VicOneの研究者が脆弱性を悪用してロボットの遠隔停止コマンドの機能を妨げた。同社によると、このケースは、チームが、それらを動作させるソフトウェアが侵害された場合でも、安全装置の有効性を確認する必要があることを示している。
展開前に修正パッチを確認する
ベンダーが修正パッチを公開した場合でも、チームは影響を受けるシステムを特定し、アップデートの互換性を確認し、期待される動作を維持することを保証しなければならない。以前に成功したテストは有用ではあるが、最近発見された脆弱性は、そのテストが検証していなかった条件を明らかにする可能性がある。
VicOneは対応を導くための3つの質問を提案している:影響を受けるソフトウェアはどこで使用されているか(訓練用コンピューター、シミュレーション環境、展開済みロボットを含む)?脆弱性は何を改変しうるか(モデル、テスト結果、オペレーターの視認性、ロボットの動作など)?保護が有効であることをどのように確認するか?即時のアップデートが不可能な場合、検証済みの修正パッチを待つ間、影響を受けるサービスへのアクセス制限などの暫定措置が必要となる可能性がある。
また、VicOneは2つの製品を紹介している:潜在的なゼロデイ脆弱性の特定、AIモデルやシステムのセキュリティ評価、ロボット展開前のリスクがロボットの動作に及ぼす影響のシミュレーションを支援するRadeisと、運用中に承認されたポリシーの下での脅威検出と対応を保証するRthenaである。
