Sans gouvernance adéquate, les agents d’IA risquent de passer, de manière autonome, invisible et rapide, d’un atout à un désastre pour les entreprises. Sysdig a annoncé Sysdig AI Defense, un produit qui apporte la sécurité et la gouvernance en temps d’exécution (ou runtime) à ces agents.
- Sysdig lance AI Defense, une solution de sécurité et de gouvernance en temps réel pour les agents IA.
- Le produit surveille chaque action de l’agent et peut bloquer une action risquée avant qu’elle ne s’achève.
- Il recense les agents, rattache chacun à un responsable humain et enregistre leurs actions dans un journal d’audit inaltérable.
- Les entreprises prévoient de déployer toujours plus d’agents, ce qui rend leur contrôle indispensable.
Pour Loris Degioanni, fondateur et directeur technique (CTO) de Sysdig, le besoin est clair. « L’IA passe de la réponse à l’action. Il y a eu d’abord des machines à discuter. Aujourd’hui, l’IA agentique fait des choses à notre place », explique-t-il.
Le problème tient à la capacité de ces agents à aller plus loin que ce qui leur a été demandé, plus vite que ce qu’on peut contrôler. Sysdig met en avant la nécessité de surveiller ce qu’ils font en continu.
Suivre chaque action, jusqu’au bout
Selon Sysdig, AI Defense observe et surveille chaque action d’un agent, de son point de départ à son achèvement. La tâche n’a rien de simple. Un agent peut acquérir rapidement de nouvelles capacités en cherchant à accomplir sa mission. Chaque action peut être journalisée, mais derrière elle peuvent se cacher au moins cinq processus, visibles seulement par le noyau du système d’exploitation, qui modifient discrètement le fonctionnement de l’agent.
« L’agent déployé le matin n’est pas toujours celui qui tourne l’après-midi », avertit Sysdig, qui ajoute que « seul le noyau montre ce qui a réellement été exécuté ». Si la sécurité impose de bloquer une action, la réponse doit être immédiate. « Il faut des solutions qui fonctionnent à l’exécution, très rapidement, et qui peuvent déclencher une réponse », souligne Loris Degioanni. « Toute réponse de blocage doit intervenir en temps réel, en ligne, pendant que l’action se déroule et avant qu’elle ne soit achevée. »
Pour le dirigeant, la distinction entre ce que l’agent déclare et ce qu’il fait est centrale. « Un agent peut mal rapporter un appel d’outil, mais il ne peut pas réécrire ses interactions avec le système ou le monde extérieur », affirme-t-il. « Le récit qu’un agent fait de ses actions est un contexte utile, mais ce n’est pas une preuve. Quand ce qu’il rapporte et ce que ses actions montrent ne concordent pas, vous avez une détection. »
Inventaire, politiques et traçabilité
Sysdig affirme que son produit offre plusieurs fonctions distinctes. Il établit un inventaire en direct des agents, de leurs harnais, des modèles, des serveurs MCP, des compétences et des extensions, construit à partir de la télémétrie d’exécution. Chaque agent peut être rattaché à un responsable humain identifié.
Les actions agentiques jugées risquées peuvent être détectées, soumises à une validation humaine ou bloquées avant d’être menées à terme. Des modèles de politiques prédéfinis peuvent reprendre des règles associées à des référentiels comme le OWASP Top 10 for LLM Applications. Chaque politique démarre en mode alerte, puis passe en mode application lorsque l’organisation y est prête.
Les actions de l’agent et celles d’AI Defense sont enregistrées au fil de l’eau. Un graphe d’actions en direct présente chaque étape dans l’ordre, en mettant en regard ce que l’agent dit faire et ce qu’il fait réellement, ce à quoi il peut accéder et au nom de quelle autorité il agit. Le résultat, selon l’entreprise, est un journal d’audit inaltérable indiquant quelles politiques ont été appliquées, quand, et qui les a validées.
Le sujet s’inscrit dans un contexte plus large. L’IBM Institute for Business Value, dans une étude consacrée à la gouvernance de l’IA agentique, note que « lorsque les agents d’IA passent des projets pilotes à la production, les systèmes prennent des décisions autonomes en volumes qu’aucune gouvernance humaine ne peut raisonnablement superviser ». Selon cette étude, « d’ici 2027, les entreprises prévoient de déployer en moyenne 1 661 agents d’IA, soit une hausse de 38 % par rapport à aujourd’hui ».
