Les agents IA, capables de prendre des initiatives dans le système d’information des entreprises, bousculent les modèles de gouvernance en place. Identité, contrôle des accès, traçabilité et supervision humaine deviennent des éléments essentiels pour concilier autonomie et sécurité, à l’heure où l’AI Act entre progressivement en application.
- Les agents IA agissent seuls dans le système d’information et brouillent la gouvernance traditionnelle.
- L’AI Act ne définit pas les agents comme catégorie, mais exige contrôle et traçabilité pour les systèmes à haut risque.
- Chaque agent doit avoir une identité, un responsable, des accès limités et une supervision humaine pour les actions sensibles.
- La gouvernance doit être posée dès que l’agent reçoit le droit d’agir, sans attendre l’échéance de décembre 2027.
Le modèle de gouvernance traditionnel repose sur un principe simple : une personne correspond à une identité, à des droits et à un responsable clairement identifié. Avec les agents IA, cette logique est mise à mal. Ces programmes peuvent être créés rapidement, évoluer dans le temps et voir leurs accès s’élargir selon leurs missions. Déployés en dehors des processus habituels, ils peuvent faire perdre à l’entreprise la trace du nombre d’agents actifs, de leurs responsables et de ce qu’ils sont réellement autorisés à faire.
Selon le rapport Okta Global CISO Insights 2026, 81 % des responsables de la sécurité interrogés se disent préoccupés par les accès excessifs accordés à l’IA, alors que seulement 47 % déclarent pouvoir identifier l’ensemble des agents IA présents dans leur environnement. L’AI Act ne réglemente pas les « agents IA » en tant que catégorie. Il impose en revanche, pour certains systèmes et certains niveaux de risque, une capacité accrue à identifier, encadrer, surveiller et contrôler les systèmes déployés. La question n’est donc plus seulement de savoir si l’entreprise utilise de l’IA, mais ce qui est autorisé à agir en son nom.
Pour les systèmes à haut risque, le règlement impose des exigences en matière de gestion des risques, de traçabilité, de surveillance et de contrôle humain. Avant de laisser un agent intervenir dans un processus critique, il faut savoir à quelles données il peut accéder, quelles applications il peut utiliser, quelles actions il peut effectuer, qui en est responsable et comment suspendre ses accès si nécessaire. Le texte s’inscrit par ailleurs dans un mouvement plus large, avec notamment DORA et NIS2, qui convergent vers une même exigence : identifier les ressources, comprendre les accès et être capable de démontrer ce qui s’est passé.
L’identité, base de la chaîne de responsabilité
Chaque agent doit pouvoir être identifié, rattaché à une équipe ou à un responsable, disposer d’un périmètre d’accès défini et voir ses permissions réévaluées régulièrement. Un agent n’est pas un collaborateur, et il ne s’agit pas de le gérer comme un salarié. L’enjeu est de pouvoir reconstruire la chaîne de responsabilité lorsqu’il agit, c’est-à-dire relier une action automatisée à une autorisation et à un responsable. Certaines tâches peuvent être entièrement automatisées, d’autres doivent rester soumises à une validation humaine ou pouvoir être interrompues lorsqu’elles présentent un risque particulier.
Quatre étapes pour reprendre la main
Cartographier l’existant. La première étape consiste à recenser les outils et les agents utilisés, leurs accès aux données et les personnes qui les contrôlent. Ce recensement doit aussi couvrir les agents créés dans les environnements de développement et les workflows automatisés qui échappent aux processus informatiques traditionnels.
Attribuer une identité et un périmètre. Un agent doit disposer d’un propriétaire désigné et d’autorisations correspondant à sa mission, selon les principes de privilèges minimaux, d’accès limités dans le temps et de séparation des responsabilités. Sa nature de machine ne doit pas conduire à lui accorder plus de confiance qu’à un utilisateur humain.
Garder l’humain dans la boucle. Pour les actions sensibles, l’entreprise doit définir quand une intervention humaine est nécessaire, qu’il s’agisse d’une approbation avant exécution ou de la capacité à interrompre rapidement un agent qui sort de son périmètre.
Vérifier la valeur métier. Des projets autonomes lancés sans objectif précis ni supervision peuvent multiplier les risques sans démontrer leur utilité. Il convient donc de définir le problème à résoudre, la valeur attendue et la manière de mesurer les résultats, ce qui permet aussi de déterminer le niveau d’autonomie nécessaire.
Pour les systèmes d’IA à haut risque relevant de l’Annexe III, les règles entreront en application à partir du 2 décembre 2027. La source rappelle toutefois que la gouvernance d’un agent se construit au moment où l’entreprise lui donne le droit d’agir, et non à l’échéance réglementaire. En traitant ces agents comme un enjeu d’identité, et pas seulement de conformité ou de technologie, les organisations peuvent passer d’une logique de « shadow AI » à une IA gouvernée.
