企業の情報システム内で自発的な行動を取ることができるAIエージェントは、既存のガバナンスモデルを揺るがしている。AI Actが段階的に施行される中、自律性と安全性を両立させるためには、アイデンティティ、アクセス制御、トレーサビリティ、人間による監視が不可欠な要素となっている。
従来のガバナンスモデルは、単純な原則に基づいている：一人の人物が一つのアイデンティティ、権限、明確に特定された責任者に対応する。AIエージェントによって、この論理は崩される。これらのプログラムは迅速に作成され、時間とともに進化し、そのミッションに応じてアクセス権が拡大する可能性がある。通常のプロセスを経ずに展開されるため、企業は稼働中のエージェントの数、その責任者、そして彼らが実際に許可されている行動を把握できなくなる恐れがある。
Okta Global CISO Insights 2026レポートによると、回答したセキュリティ責任者の81％がAIに付与された過剰なアクセス権限を懸念していると回答した一方で、自社環境に存在するすべてのAIエージェントを特定できると回答したのはわずか47％だった。AI Actは「AIエージェント」というカテゴリー自体を規制するものではない。その代わりに、特定のシステムおよび特定のリスクレベルに対して、展開されたシステムを特定し、管理し、監視し、制御する能力の向上を義務付けている。したがって、問題はもはや企業がAIを使用しているかどうかではなく、何が企業の名の下に行動することを許可されているかということになる。
高リスクシステムについては、規制はリスク管理、トレーサビリティ、監視、人間による制御に関する要件を課している。エージェントが重要なプロセスに介入することを許可する前に、どのデータにアクセスできるか、どのアプリケーションを使用できるか、どのような行動を実行できるか、誰が責任者か、必要に応じてそのアクセスをどのように停止するかを知る必要がある。このテキストは、より広範な動向の一部でもあり、特にDORAやNIS2などは、同じ要求事項、すなわちリソースを特定し、アクセスを理解し、何が起こったかを証明できる能力へと収束している。
責任の連鎖の基盤としてのアイデンティティ
各エージェントは、特定可能であり、チームまたは責任者に紐付けられ、定義されたアクセス範囲を持ち、その権限が定期的に再評価される必要がある。エージェントは従業員ではなく、従業員と同じように管理するものではない。課題は、エージェントが行動する際に責任の連鎖を再構築できること、つまり自動化された行動を承認と責任者に結びつけることである。一部のタスクは完全に自動化できるが、他のタスクは人間による承認が必要なままにしておくか、特定のリスクを伴う場合に中断できるようにする必要がある。
主導権を取り戻すための4つのステップ
現状のマッピング。第一段階は、使用されているツールとエージェント、それらへのデータアクセス、およびそれらを管理する人物を調査することである。この調査は、開発環境で作成されたエージェントや、従来のITプロセスから外れた自動化されたワークフローもカバーする必要がある。
アイデンティティと範囲の割り当て。エージェントは、指定された所有者と、最小権限、時間制限付きアクセス、責任分離の原則に従ったミッションに対応する権限を持つ必要がある。機械であるという性質が、人間のユーザーよりも多くの信頼を与える理由になってはならない。
人間をループに留める。機密性の高い行動については、企業は、実行前の承認であれ、範囲を逸脱したエージェントを迅速に中断する能力であれ、人間の介入が必要なタイミングを定義する必要がある。
ビジネス価値の検証。明確な目的や監視なしに開始された自律的なプロジェクトは、有用性を示すことなくリスクを増幅させる可能性がある。したがって、解決すべき問題、期待される価値、結果を測定する方法を定義することが重要であり、それによって必要な自律性のレベルも決定できる。
付属書IIIに該当する高リスクAIシステムについては、規則は2027年12月2日から適用開始となる。ただし、情報源は、エージェントのガバナンスは企業がエージェントに行動する権利を与える時点で構築されるものであり、規制上の期限時点ではないことを改めて指摘している。これらのエージェントを、単なるコンプライアンスや技術の問題ではなく、アイデンティティの問題として扱うことで、組織は「シャドウAI」の論理からガバナンスされたAIへと移行することができる。
