人工知能は、セキュリティの方程式を二つの前線で再構築している：AIエージェントは自律性を高めて行動し、一方でAIは脆弱性の発見を加速させる。セキュリティ運用センター（SOC）には、これらのシグナルを選別する義務が課せられる。その背景には、予期せぬ未承認の行動を起こすAIシステムや、サイバー作戦において自律的なAIワークフローを利用する悪意ある行為者が、ニュースで取り上げられている現状がある。
OpenAIは、トレーニング中に観察された悪意のある、または懸念される行動の6つの例を公開した：モデルが許可なく公開されたAPIキー（サービスへのアクセス権を与える認証情報）にアクセスしたり、外部ファイルをダウンロードしたり、リポジトリを利用して通信を行ったりした。一方、Anthropicは、偵察、悪用、データ流出、脆弱性調査の作戦において、悪意ある行為者がエージェントの群れを展開していると報告した。
組織はもはや、問題が発生した後に検出するだけでは不十分だ。現在の課題は、攻撃者とAIシステムが人間の介入をますます必要とせず、マシンの速度で作動する可能性がある中で、実質的な監視を維持することにある。
AI支援による脆弱性発見は、チームが検証し、優先順位をつけ、修正しなければならない対象の量と速度を増大させる。また、脆弱性の開示から悪用までの時間的猶予も短縮する。自社が何を使用しているかを把握し、迅速にパッチを適用し、露出した攻撃対象領域を縮小することは、依然として必須事項である。
同じ可視性の論理がAIエージェントにも適用される。マシンの速度で作動する彼らには、限定された範囲と短い有効期限を持つ認証情報、厳格なシークレット管理、アクセス可能なリソースとデータの送信先に関する明確な制限が必要だ。エージェントをいつでも停止できる能力は、人間による監視の重要なレイヤーを構成する。
見えないものは守れない
エージェントの最終的な応答は、そのセキュリティ履歴の一部に過ぎない。チームは、AIシステムが自社の環境内でどのように振る舞うかを理解する必要がある：どのリソースに接続し、どのデータを処理し、その活動が期待されるものと一致しているかどうか。これは、AIを独立したサイロとして扱うのではなく、AIによって生成されたシグナルを、アイデンティティ、アプリケーション、インフラストラクチャに関連付けることを意味する。
この文脈がなければ、異常な活動と正当な行動を区別したり、それをもたらした条件を理解したりすることは困難だ。この力学により、可視性は運用上の規律から、重要なセキュリティ要件へとその地位を移した。
この可視性はまた、基礎的な要素にも依存している。エージェントによって生成されるテレメトリ（プロンプト、ツール呼び出し、影響を受けたリソース、使用されたアイデンティティ）は、収集、保存、改ざんから保護され、実行されたアクションの経緯を追跡できるようにする必要がある。
内部の可視性が強固であっても、どのチームもあらゆる脅威を最初に発見することはできない。攻撃を加速させるのと同じAI能力が、複数の環境において、複数の行為者によって同時に利用されている。したがって、脅威インテリジェンスの共有と集団学習は、対応の重要な構成要素として浮上している。観察結果が検査され、疑問視され、より広範なコミュニティ内で共有されるとき、組織は脆弱性を検証し、パッチを開発し、同じ欠陥が他の場所で問題になる前に行動を起こす可能性が高まる。
基盤はペースについていく必要がある
AIは防御側でも役割を果たし得る。適切に使用されれば、アナリストがシグナルを相関させ、インシデントを要約し、アラートに優先順位をつけ、調査を加速させるのに役立つ。しかし、断片化されたデータやアクセスできないデータを補うことはできず、確立されていないセキュリティの基礎を代用することもできない。
最も有利な立場にある組織は、この基礎的な作業を済ませている組織だ。それらは、どの資産を所有し、何が露出しており、正常な振る舞いがどのようなものかを知っている。人間のアイデンティティにもエージェントにも最小権限の原則を適用し、機密要素をエージェントの手の届かないところに保ち、改ざんから保護されたテレメトリを保持している。
それらは、高影響力のエージェントアクションを承認するためのゲート、および何か異常と思われる場合にエージェントを停止する能力を備えている。それらのインシデント対応プロセスは、エージェントが誤った振る舞いをする可能性があるという前提から始まり、エージェントのアイデンティティの無効化、その行動の再構築、影響を受けたものの復元をカバーするプレイブック（標準手順）を持つ。
より強力なAI能力は、これらの基礎を時代遅れにするものではなく、それらが欠如していることのコストを増大させる。可視性は、それらが維持されていることを確認することを可能にする。これらの基盤が整っていれば、防御側はAIが明らかにするものに対応し、自らの環境で何が起こっているかを理解し、制御の欠陥がインシデントになる前に行動を起こすことができる。
