AI-agents, die zelf initiatieven kunnen nemen in de informatiesystemen van bedrijven, zetten de bestaande beheermodellen op hun kop. Identiteit, toegangscontrole, traceerbaarheid en menselijk toezicht worden essentiële elementen om autonomie en veiligheid te verzoenen, nu de AI Act geleidelijk van kracht wordt.
- AI-agents ontwrichten het traditionele beheermodel, omdat ze zelf initiatieven nemen en hun toegang uitbreiden.
- De AI Act reguleert agents niet als categorie, maar legt voor hoogrisicosystemen eisen op aan traceerbaarheid, monitoring en menselijke controle.
- Bedrijven moeten hun agents inventariseren, elk een identiteit, een eigenaar en beperkte rechten geven en menselijk ingrijpen voorzien.
- Het beheer moet nu worden opgebouwd, niet pas op de deadline van 2 december 2027, zodat shadow AI plaatsmaakt voor beheerde AI.
Het traditionele beheermodel berust op een eenvoudig principe: één persoon komt overeen met één identiteit, bepaalde rechten en een duidelijk aangewezen verantwoordelijke. Met AI-agents wordt deze logica ondermijnd. Deze programma’s kunnen snel worden gecreëerd, in de loop der tijd evolueren en hun toegang zien uitbreiden naargelang hun taken. Wanneer ze buiten de gebruikelijke processen worden ingezet, kan het bedrijf het zicht verliezen op het aantal actieve agents, hun verantwoordelijken en wat ze daadwerkelijk mogen doen.
Volgens het rapport Okta Global CISO Insights 2026 maakt 81% van de ondervraagde beveiligingsverantwoordelijken zich zorgen over de excessieve toegangsrechten die aan AI worden verleend, terwijl slechts 47% aangeeft alle AI-agents in hun omgeving te kunnen identificeren. De AI Act reguleert ‘AI-agents’ niet als categorie. Ze legt daarentegen voor bepaalde systemen en bepaalde risiconiveaus een verhoogde capaciteit op om de ingezette systemen te identificeren, te kaderen, te monitoren en te controleren. De vraag is dus niet langer alleen of het bedrijf AI gebruikt, maar wat gemachtigd is om in zijn naam op te treden.
Voor hoogrisicosystemen legt de verordening eisen op voor risicobeheer, traceerbaarheid, monitoring en menselijke controle. Voordat een agent mag ingrijpen in een kritiek proces, moet men weten tot welke gegevens hij toegang heeft, welke applicaties hij kan gebruiken, welke acties hij kan uitvoeren, wie ervoor verantwoordelijk is en hoe zijn toegang indien nodig kan worden opgeschort. De tekst past bovendien in een bredere beweging, met onder meer DORA en NIS2, die allemaal uitmonden in dezelfde eis: resources identificeren, toegang begrijpen en kunnen aantonen wat er is gebeurd.
Identiteit, basis van de verantwoordingsketen
Elke agent moet identificeerbaar zijn, gekoppeld aan een team of een verantwoordelijke, een gedefinieerd toegangsperimeter hebben en zijn rechten regelmatig laten herevalueren. Een agent is geen medewerker en moet niet als een werknemer worden beheerd. De uitdaging is om de verantwoordingsketen te kunnen reconstrueren wanneer hij handelt, dat wil zeggen een geautomatiseerde actie te koppelen aan een autorisatie en een verantwoordelijke. Sommige taken kunnen volledig worden geautomatiseerd, andere moeten onderworpen blijven aan menselijke goedkeuring of kunnen worden onderbroken wanneer ze een specifiek risico vormen.
Vier stappen om de controle terug te krijgen
Inventariseren wat er is. De eerste stap bestaat uit het in kaart brengen van de gebruikte tools en agents, hun toegang tot gegevens en de personen die ze controleren. Deze inventarisatie moet ook de agents dekken die zijn gemaakt in ontwikkelomgevingen en de geautomatiseerde workflows die buiten de traditionele IT-processen vallen.
Een identiteit en een perimeter toekennen. Een agent moet een aangewezen eigenaar hebben en autorisaties die overeenkomen met zijn taak, volgens de principes van minimale rechten, beperkte toegang in de tijd en scheiding van verantwoordelijkheden. Zijn machinekarakter mag er niet toe leiden dat hij meer vertrouwen krijgt dan een menselijke gebruiker.
De mens in de loop houden. Voor gevoelige acties moet het bedrijf bepalen wanneer menselijk ingrijpen nodig is, of het nu gaat om een goedkeuring vooraf of om de mogelijkheid om snel een agent die buiten zijn perimeter treedt, te onderbreken.
De bedrijfswaarde verifiëren. Autonome projecten die zonder duidelijk doel of toezicht worden gestart, kunnen risico’s vermenigvuldigen zonder hun nut aan te tonen. Het is daarom raadzaam het op te lossen probleem, de verwachte waarde en de manier om de resultaten te meten te definiëren, wat ook helpt om het noodzakelijke autonomieniveau te bepalen.
Voor hoogrisico-AI-systemen die onder Bijlage III vallen, treden de regels in werking vanaf 2 december 2027. De bron herinnert er echter aan dat het beheer van een agent wordt opgebouwd op het moment dat het bedrijf hem het recht geeft om te handelen, en niet op de wettelijke deadline. Door deze agents te behandelen als een identiteitsvraagstuk, en niet alleen als een kwestie van compliance of technologie, kunnen organisaties overstappen van een logica van ‘shadow AI’ naar een beheerde AI.
