マイクロソフト、aiエージェントの検証可能性を高める新たなイニシアチブを発表

マイクロソフト、aiエージェントの検証可能性を高める新たなイニシアチブを発表

2026年11月17日、サンフランシスコで開催されたマイクロソフトのカンファレンス「Ignite」において、サティア・ナデラCEOは「AI Transparency Initiative」を発表した。このイニシアチブの目的は、ユーザーに代わって行動するプログラムであるAIエージェントの検証可能性を高めることにある。同社は40以上の組織が参加していると主張するが、発表資料には具体的なスケジュールや期限付きの成果物は明記されていない。

ナデラCEOは企業の立場を次のように要約した。「モデル自身が語る内容は、独立した証拠とはなりえない」。発表資料では、アクセンチュア、アドビ、KPMG、マスターカード、ボルボ・カーズの5社がパートナーとして名指しで挙げられている。

このイニシアチブは3つの柱からなる。第1の柱はワシントンでの取り組みで、マイクロソフトは米国標準技術研究所(NIST)が主導するエージェント標準に関するイニシアチブへの参加を拡大したいとしている。NISTのAI標準センター(CAISI)が2026年2月17日に立ち上げたこのプログラムは、自主的なガイドラインを目指している。11月9日に更新されたプログラムのページでは、3月9日、20日、4月2日という参加期限は既に過ぎている。

第2の柱では、パートナー企業が集い、モデルやベンダーに関わらず独立して検証可能なAIシステムのためのオープンスタンダードを策定する。第3の柱は自社製品に関するもので、Microsoft AI、Foundry、Copilotが、マイクロソフト製または他社製のセキュリティ・コンプライアンスツールで生成された証拠を顧客が活用できるようにすることを目指す。

モデルの主張を他の記録と照合する

発表資料の根幹は、「見る」「検証する」「制御する」という3つの動詞にある。マイクロソフトは「エージェントは、自らの行動に関する唯一の真実の源であってはならない」と記している。資料によれば、エージェントのID、委任された意図、実行された行動に関するあらゆる証拠は、その出所(モデル自身、実行環境、あるいはIDやポリシーを管理する独立したシステムなど)を示すべきである。これにより、モデルが主張する内容を、他の場所で確立された記録と比較対照できるようになる。

この仕組みの説明は仮定法に留まっている。発表資料は、誰がこれらの独立したシステムを運用するのか、また全体が第三者によって監査されるのかについては明確にしていない。マイクロソフトの提供内容では、エージェントのID管理は同社の製品「Entra」が担うため、謳われている独立性は主にモデルに対する制御システムの独立性であって、ベンダー自体の独立性ではない。10月10日に公開されたナデラCEOの個人ブログでは、「モデルの重要な行動はすべて、改ざん不能で人間が読解可能な証拠を残すべき」と主張されていたが、この「改ざん不能」という表現は11月17日の発表資料には含まれていない。

利用可能な制御機能は一部のみ

10月に発表された構成要素のいくつかが、現在「一般提供」(GA)となり、すべての顧客が利用可能となった。カンファレンスの「Book of News」によると、「Project Perception」は「Microsoft Perception」に名称変更された。Windows端末にインストールされたエージェントの実行時保護は、Claude CodeやGitHub Copilot CLIなど指定されたエージェントのリストに対して利用可能で、Defender for Endpoint P2の顧客に限定されている。人間のスポンサーが各エージェントに関連付けられていることを確認する自動化されたエージェントID管理も利用可能だ。

しかし、この仕組みの中核部分はまだプレビュー段階にある。「Book of News」によれば、リスクスコアリング機能「Dynamic Agent Risk」は「Agent 365」内にあり、依然としてプレビュー段階である。Entra ID Governanceの動的権限と条件付きアクセスの動的制御も同様だ。マイクロソフトは、制限を発動させるリスクの閾値については公開していない。

11月17日付けのセキュリティブログ記事も一つの限界を認めている。これらのツールはエージェントを保護し封じ込めることはできるが、エージェントの背後にあるモデルの動作について顧客に可視性を提供するものではない。また、重大な結果をもたらす行動の後、企業がAIに何が指示されたかを独立して検証する方法についても、この文書は言及していない。

発表資料はさらに、責任はエージェントをデプロイする組織に残されると明記している。欧州連合(EU)やAI法(AI Act)については言及されていない。この欧州規則の第26条では、高リスクAIシステムのデプロイ事業者は、EU法または国内法に反する規定がない限り、自動生成されたログを少なくとも6か月間保持することが求められている。

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x