適切なガバナンスがなければ、AIエージェントは自律的かつ不可視で高速に、企業にとっての資産から災厄へと変貌するリスクがある。Sysdigは、これらのエージェントにランタイム（実行時）セキュリティとガバナンスをもたらす製品「Sysdig AI Defense」を発表した。
Sysdigの創業者兼最高技術責任者（CTO）であるLoris Degioanni氏にとって、その必要性は明らかだ。「AIは応答から行動へと移行している。最初は会話する機械があった。今日、エージェント型AIは私たちに代わって作業を行っている」と同氏は説明する。
問題は、これらのエージェントが指示された範囲を超えて行動し、人間が制御できる速度を上回る速さで動作する能力にある。Sysdigは、その行動を継続的に監視する必要性を強調している。
開始から完了まで、あらゆるアクションを追跡
Sysdigによると、AI Defenseはエージェントのあらゆるアクションを、開始から完了まで観察・監視する。その課題は決して簡単ではない。エージェントは任務を達成するために新たな能力を迅速に獲得する可能性がある。各アクションはログに記録できるが、その背後には、OSカーネルによってのみ可視化され、エージェントの動作を密かに変更する少なくとも5つのプロセスが隠れている可能性がある。
「午前中にデプロイされたエージェントが、午後も同じ状態で動作しているとは限らない」とSysdigは警告し、「実際に実行された内容を示すのはカーネルのみである」と付け加える。セキュリティ上、アクションをブロックする必要がある場合、応答は即座に行われなければならない。「実行時に非常に迅速に機能し、応答をトリガーできるソリューションが必要だ」とLoris Degioanni氏は強調する。「あらゆるブロッキング応答は、アクションが進行中で、完了する前の、リアルタイムかつオンラインで行われる必要がある。」
同氏にとって、エージェントが宣言することと実際に行うことの区別は核心である。「エージェントはツール呼び出しを誤って報告する可能性はあるが、システムや外部世界との相互作用を書き換えることはできない」と同氏は断言する。「エージェントが自身の行動について語る内容は有用な文脈ではあるが、証拠ではない。報告内容とその行動が示す内容が一致しない場合、それは検知の対象となる。」
インベントリ、ポリシー、トレーサビリティ
Sysdigは、自社製品が複数の異なる機能を提供すると主張する。ランタイムテレメトリから構築され、エージェント、そのハーネス、モデル、MCPサーバー、スキル、拡張機能のライブインベントリを確立する。各エージェントは、特定された人間の責任者に関連付けることができる。
リスクがあると判断されたエージェントのアクションは、検知され、人間による承認が求められるか、完了前にブロックされる可能性がある。事前定義されたポリシーテンプレートは、OWASP Top 10 for LLM Applicationsなどのレポジトリに関連付けられたルールを取り込むことができる。各ポリシーはアラートモードで開始され、組織の準備が整った時点で適用モードに移行する。
エージェントのアクションとAI Defenseのアクションは、リアルタイムで記録される。ライブアクショングラフは各ステップを順番に提示し、エージェントが行うと宣言した内容と実際の行動、アクセス可能なもの、およびどの権限の下で動作しているかを対比する。同社によれば、その結果は、どのポリシーがいつ適用され、誰によって承認されたかを示す改ざん不可能な監査ログである。
この話題はより広範な文脈に位置づけられる。IBM Institute for Business Valueは、エージェント型AIのガバナンスに関する調査の中で、「AIエージェントがパイロットプロジェクトから本番環境に移行する際、システムは人間のガバナンスが合理的に監督できる量を超える規模で自律的な意思決定を行う」と指摘している。同調査によると、「2027年までに、企業は平均1,661のAIエージェントをデプロイする計画であり、現在から38%増加する見込みである」。
