Avec les agents IA, le risque change de nature. Une erreur ne se limite plus à une réponse fausse ou imprécise : elle peut devenir une décision, puis une action dans le système d’information. Selon le Capgemini Research Institute, ces agents pourraient générer jusqu’à 450 milliards de dollars de valeur d’ici 2028, tandis que 15 % des processus métier pourraient atteindre un niveau d’autonomie partielle ou totale dans les douze prochains mois.
Plus les agents entreront dans la chaîne de création de valeur, plus la maîtrise de leur pouvoir d’action relèvera de la gouvernance autant que de la cybersécurité. Le texte souligne ainsi que le débat, longtemps centré sur les modèles, leurs données, leurs biais ou leurs hallucinations, doit désormais porter sur l’architecture du pouvoir dans le système d’information.
Ne pas confondre délégation et transmission des privilèges
Le réflexe consiste souvent à permettre à l’agent d’agir « au nom de » son utilisateur et à lui transmettre ses droits. Ce fonctionnement, déjà observé, est jugé ici erroné. Un directeur financier accède légitimement à la trésorerie, aux rémunérations, au reporting ou à certaines opérations stratégiques, alors qu’un agent chargé de rapprocher des factures n’a besoin que d’une fraction de ces privilèges. Lui transmettre l’identité du DAF revient à confondre le pouvoir de celui qui donne la mission avec celui qui l’exécute.
Un logiciel dispose de permissions, tandis qu’un agent doit recevoir un mandat. Selon le texte, ce mandat doit reposer sur une identité propre, une mission déterminée, des ressources accessibles, une durée, des actions autorisées et une capacité de révocation. Le pouvoir effectif de l’agent doit se limiter à l’intersection entre ses propres droits, ceux de l’utilisateur et ce que requiert la mission, « jamais à leur addition ». La règle devient décisive lorsque plusieurs agents collaborent : déléguer une tâche ne doit jamais permettre de déléguer davantage de pouvoir.
Le sujet est déjà concret dans certaines entreprises, notamment dans le secteur bancaire, où des environnements d’IA générative sécurisés et gouvernés sont déployés auprès des collaborateurs. Lorsque ces environnements évoluent vers des agents capables d’intervenir dans les processus métier, protéger les données ne suffit plus : il faut aussi gouverner l’autorité confiée à la machine.
Donner une identité aux agents pour leur accorder de l’autonomie
La Cloud Security Alliance estime que les identités non humaines, comptes de service, clés d’API, certificats, jetons ou identifiants utilisés par les agents, sont en moyenne 45 fois plus nombreuses que les identités humaines dans les entreprises. Il faut donc savoir précisément qui agit. Le texte distingue à cet égard l’Agent Owner, responsable de l’agent en production et de son cycle de vie, l’agent lui-même, doté de droits propres, et l’utilisateur pour lequel il intervient.
Cette gouvernance suppose une traçabilité de bout en bout. L’entreprise doit pouvoir reconstituer les actions de l’agent, ses interactions avec le système d’information et les sources de données qu’il mobilise. Cette visibilité doit permettre de détecter les comportements non conformes, de déclencher des alertes ou des garde-fous et, pour les fonctions critiques ou sensibles, de maintenir une validation humaine tant que le fonctionnement de l’agent n’a pas été suffisamment éprouvé.
Selon cette analyse, l’objectif n’est pas de limiter l’autonomie des agents, mais de créer les conditions de la confiance. Plus une entreprise saura identifier ses agents, borner leur mandat, suivre leurs actions et conserver une capacité d’intervention humaine, plus elle pourra leur confier des responsabilités importantes. La question, conclut le texte, ne sera plus seulement de savoir quelle IA l’entreprise utilise, mais à qui elle a donné les clés de son système d’information, sous quelle identité et sous quel contrôle.
