Microsoft lanceert een initiatief om AI-agents controleerbaar te maken

Microsoft lanceert een initiatief om AI-agents controleerbaar te maken

Tijdens de Microsoft Ignite-conferentie op 17 november 2026 in San Francisco kondigde Satya Nadella de AI Transparency Initiative aan, met als doel AI-agents controleerbaar te maken. Dit zijn programma’s die namens een gebruiker handelen. De groep stelt dat meer dan 40 organisaties hierbij betrokken zijn. Het persbericht stelt echter geen tijdschema vast en publiceert geen gedateerde resultaten.

De CEO vatte de positie van het bedrijf als volgt samen: « Wat het model ons over zichzelf vertelt, is geen onafhankelijk bewijs. » Het persbericht noemt vijf partners bij naam: Accenture, Adobe, KPMG, Mastercard en Volvo Cars.

Het initiatief bestaat uit drie onderdelen. Het eerste loopt via Washington, waar Microsoft zijn deelname wil uitbreiden aan het initiatief van het NIST, het Amerikaanse instituut voor normen en technologie, gewijd aan agentstandaarden. Gelanceerd op 17 februari 2026 door het CAISI, het NIST-centrum voor AI-standaarden, beoogt dit programma vrijwillige richtlijnen. Op de bijgewerkte pagina van 9 november zijn de deelnametermijnen, 9 maart, 20 maart en 2 april, al verstreken.

Het tweede onderdeel brengt partners samen rond open standaarden voor onafhankelijk controleerbare AI-systemen, ongeacht het model of de leverancier. Het derde betreft eigen producten: Microsoft AI, Foundry en Copilot moeten klanten in staat stellen de gegenereerde bewijzen te gebruiken met hun beveiligings- en compliance-tools, of deze nu van Microsoft of andere leveranciers komen.

Het verhaal van het model confronteren met andere registraties

Het persbericht rust op drie werkwoorden: zien, verifiëren en controleren. Microsoft schrijft daarin dat « agents niet de enige bron van waarheid over hun eigen gedrag kunnen zijn ». Volgens de tekst zou elk bewijs over de identiteit van de agent, de aan hem gedelegeerde intentie en zijn acties de oorsprong moeten aangeven: het model, de uitvoeringsomgeving of onafhankelijke systemen, zoals die voor identiteits- en regelbeheer. Wat het model verklaart, kan zo worden vergeleken met elders vastgelegde registraties.

Het mechanisme blijft beschreven in de voorwaardelijke wijs. Het persbericht specificeert niet wie deze onafhankelijke systemen beheert, noch of een derde partij het geheel auditeert. In het aanbod van Microsoft valt de identiteit van agents onder Entra, een product van de uitgever, zodat de aangekondigde onafhankelijkheid vooral het controlesysteem ten opzichte van het model betreft, en niet de uitgever zelf. Op 10 oktober vroeg Satya Nadella in een persoonlijke tekst dat elke significante actie van een model een « onvervalsbaar en door een mens leesbaar » bewijs achterlaat. Deze term komt niet voor in het persbericht van 17 november.

Slechts een deel van de controles is beschikbaar

Verschillende bouwstenen die in oktober werden aangekondigd, zijn nu algemeen beschikbaar, d.w.z. toegankelijk voor alle klanten. Project Perception wordt Microsoft Perception, volgens het Book of News van de conferentie. De runtime-bescherming voor agents die op Windows-werkstations zijn geïnstalleerd, is beschikbaar voor een lijst van genoemde agents, waaronder Claude Code en GitHub Copilot CLI, en is voorbehouden aan klanten van Defender for Endpoint P2. Het geautomatiseerde beheer van agent-identiteiten, dat verifieert dat een menselijke sponsor aan elke agent is gekoppeld, is ook beschikbaar.

De kern van het systeem blijft in preview. Dynamic Agent Risk, de risicoscore, bevindt zich in Agent 365, nog steeds in preview volgens het Book of News. De dynamische machtigingen van Entra ID Governance en de dynamische controles voor voorwaardelijke toegang zijn dat ook. Microsoft publiceert niet de risicodrempels die een beperking activeren.

Het beveiligingsbericht van 17 november erkent ook een beperking: deze tools maken het mogelijk agents te beveiligen en af te schermen, maar geven klanten geen inzicht in de werking van het model achter een agent. De tekst zegt ook niet hoe bedrijven onafhankelijk kunnen verifiëren wat er aan de AI is gevraagd na een ingrijpende actie.

Het persbericht preciseert verder dat de verantwoordelijkheid blijft liggen bij de organisatie die de agent implementeert. Het vermeldt noch de Europese Unie noch de AI Act. Deze Europese verordening bepaalt in artikel 26 dat implementeerders van hoogrisico-AI-systemen automatisch gegenereerde logboeken ten minste zes maanden bewaren, tenzij anders bepaald door Unierecht of nationaal recht.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x