JFrogは、開発者のワークステーション上で、企業の承認プロセスを経ていないAIツール、スキル、コンポーネントを検出することを目的とした「Local Shadow AI」という機能を提供している。Monde Informatiqueとのインタビューで、JFrogのフィールドチーム担当グローバルCISOであるNir Peleg氏は、コーディングエージェントの増加がソフトウェア開発チェーンに新たなリスクをもたらしていると指摘した。
コーディングエージェントはプロンプトから直接コードを生成し、企業によって信頼性が確認されていないパッケージやスキルを自らダウンロードすることができる。これらのコンポーネントには脆弱性や悪意のある指示が含まれている可能性がある。 Nir Peleg氏によれば、この機能は開発環境を分析し、未承認の要素とそれらがもたらすリスクを特定する。セキュリティチームはその後、検出された脅威を評価し、必要な是正措置を定義することができる。
行動に基づく分析
JFrogは、複数の手法に基づく独自の分析メカニズムを開発したと述べている。例えば、機能を果たすのに必要のない権限やアクセスを取得しようとするスキルを検出することができる。洗練された言語の背後に隠された指示も危険である。スキルは正当に見えながらも、エージェントの行動を望ましくない方向へ導く可能性がある。同社はそのため、行動の異常を検出しようとしており、研究チームは技術の進化に合わせて手法を更新している。
一部の顧客は、組織によって承認された大規模言語モデル（LLM）、つまり膨大な量のテキストで訓練されたAIモデルを既に所有している。Bring Your Own LLM Key（BYOK）アプローチにより、これらの顧客はJFrogのサービスに必ずしも依存することなく、そのモデルへのアクセスを提供する独自のAPIキーを使用できる。分析メカニズムはそのモデルを利用するため、企業はプロバイダーを自由に選択し、セキュリティ契約やポリシーを維持することができる。オンプレミス展開では、データは顧客環境内に留まり、コードはJFrogのクラウドに送信されない。
自律的な攻撃とガバナンス
Nir Peleg氏が懸念するシナリオの一つに、最先端モデルが自律的な攻撃に寄与する能力がある。これらは、ベンダーにまだ知られていない脆弱性であるゼロデイ脆弱性を含む新たな脆弱性を発見し、その後、複数のステップからなる攻撃チェーンに関与するのを助けることができる。「攻撃者は、これまでにない規模と速度で行動する可能性がある」一方で、防御側はまだ、数週間かかる可能性のあるパッチ適用、検証、承認のサイクルに対処しなければならない。
これらの利用を統制するには、まず何が起こっているかを可視化することが第一歩だと彼は言う。「シャドウAIのダウンロードやエージェントが使用するコンポーネントが見えなければ、それらを統制することはできない」。次に、依存関係、スキル、MCP（エージェントを外部ツールに接続するプロトコル）コネクタ、あるいはデプロイメントに関わらず、セキュリティと管理ポリシーを開発プロセスに統合する必要がある。
目標は、コード変更から本番環境へのリリースまでの各ステップを追跡できるよう、可視性、セキュリティ分析、ルール、コントロールを一元化する共通システムを構築することだ。開発がエージェントの速度で行われるとき、ガバナンスも同じペースで追随しなければならない。それはもはや、事後に行われる人間によるチェックだけに依存することはできず、コントロールはプラットフォームと自動化されたプロセスに統合される必要がある。
