Zonder adequate governance lopen AI-agenten het risico om autonoom, onzichtbaar en snel van een troef in een ramp voor bedrijven te veranderen. Sysdig heeft Sysdig AI Defense aangekondigd, een product dat runtimebeveiliging en governance brengt voor deze agenten.
- Sysdig lanceert AI Defense om AI-agenten in realtime te beveiligen en te laten besturen.
- Het product volgt elke actie van een agent en blokkeert riskante acties voordat ze voltooid zijn.
- Het houdt een live inventaris bij en koppelt elke agent aan een menselijke verantwoordelijke.
- Elke stap wordt vastgelegd in een onveranderlijk auditlog.
Voor Loris Degioanni, oprichter en CTO van Sysdig, is de behoefte duidelijk. « AI gaat van reageren naar handelen. Eerst waren er chatbots. Vandaag doen agentische AI’s dingen in onze plaats », legt hij uit.
Het probleem schuilt in het vermogen van deze agenten om verder te gaan dan wat hen werd gevraagd, sneller dan wat men kan controleren. Sysdig benadrukt de noodzaak om continu te monitoren wat ze doen.
Elke actie volgen, tot het einde
Volgens Sysdig observeert en monitort AI Defense elke actie van een agent, van het startpunt tot de voltooiing. De taak is niet eenvoudig. Een agent kan snel nieuwe capaciteiten verwerven door zijn missie te willen volbrengen. Elke actie kan worden gelogd, maar erachter kunnen minstens vijf processen schuilgaan, alleen zichtbaar voor de kernel van het besturingssysteem, die stilletjes de werking van de agent wijzigen.
« De agent die ‘s ochtends wordt geïmplementeerd, is niet altijd degene die ‘s middags draait », waarschuwt Sysdig, dat toevoegt dat « alleen de kernel laat zien wat er daadwerkelijk is uitgevoerd ». Als de beveiliging vereist dat een actie wordt geblokkeerd, moet het antwoord onmiddellijk zijn. « Er zijn oplossingen nodig die tijdens de uitvoering werken, zeer snel, en die een reactie kunnen activeren », benadrukt Loris Degioanni. « Elke blokkeringsreactie moet in realtime plaatsvinden, online, terwijl de actie plaatsvindt en voordat deze is voltooid. »
Voor de leidinggevende is het onderscheid tussen wat de agent zegt en wat hij doet cruciaal. « Een agent kan een toolaanroep verkeerd rapporteren, maar hij kan zijn interacties met het systeem of de buitenwereld niet herschrijven », stelt hij. « Het verhaal dat een agent over zijn acties vertelt, is een nuttige context, maar het is geen bewijs. Wanneer wat hij rapporteert en wat zijn acties tonen niet overeenkomen, heb je een detectie. »
Inventaris, beleid en traceerbaarheid
Sysdig beweert dat zijn product verschillende afzonderlijke functies biedt. Het stelt een live inventaris op van agenten, hun ‘harnesses’, modellen, MCP-servers, vaardigheden en extensies, opgebouwd vanuit runtime-telemetrie. Elke agent kan worden gekoppeld aan een geïdentificeerde menselijke verantwoordelijke.
Agentische acties die als riskant worden beoordeeld, kunnen worden gedetecteerd, onderworpen aan menselijke validatie of geblokkeerd voordat ze worden voltooid. Vooraf gedefinieerde beleidsmodellen kunnen regels bevatten die zijn gekoppeld aan referentiekaders zoals de OWASP Top 10 for LLM Applications. Elk beleid start in waarschuwingsmodus en schakelt over naar handhavingsmodus wanneer de organisatie er klaar voor is.
De acties van de agent en die van AI Defense worden op de voet geregistreerd. Een live actiegrafiek presenteert elke stap in volgorde, waarbij wordt vergeleken wat de agent zegt te doen en wat hij daadwerkelijk doet, waar hij toegang toe heeft en namens welke autoriteit hij handelt. Het resultaat, volgens het bedrijf, is een onveranderlijk auditlog dat aangeeft welk beleid is toegepast, wanneer, en wie het heeft goedgekeurd.
Het onderwerp past in een bredere context. Het IBM Institute for Business Value merkt in een studie gewijd aan de governance van agentische AI op dat « wanneer AI-agenten van pilootprojecten naar productie gaan, de systemen autonome beslissingen nemen in volumes die geen menselijke governance redelijkerwijs kan overzien ». Volgens deze studie « plannen bedrijven tegen 2027 gemiddeld 1.661 AI-agenten te implementeren, een stijging van 38% ten opzichte van vandaag ».
