Maîtriser les actions des agents d’IA, et les risques qu’ils peuvent causer, reste complexe, même en présence d’un humain. Alors que les outils deviennent rapidement obsolètes, les approches de sécurité des entreprises ne semblent pas évoluer au même rythme. Le texte plaide pour une restauration plus fine, centrée sur les changements plutôt que sur les systèmes.
- Les agents d’IA restent difficiles à maîtriser, même avec une supervision humaine.
- Leur vitesse et leur nombre propagent rapidement les erreurs vers tous les systèmes.
- Retracer une erreur est presque impossible, et la réinitialisation reste souvent la seule option.
- Une restauration fine, centrée sur les changements et leurs dépendances, permet de corriger seulement ce qui est touché.
Certains employés humains disposent aujourd’hui de moins de privilèges que certains agents internes, autorisés à réaliser des déploiements, des modifications ou des publications de façon automatisée. Travaillant à la vitesse des machines, ces agents diffusent leurs erreurs vers tous les systèmes, plus vite qu’un humain ne le pourrait. Même lorsqu’elles paraissent normales, ces erreurs peuvent entraîner des dommages collatéraux importants, comme une perte de transaction ou une interruption des flux de travail.
Retracer le parcours d’une erreur dans les différents systèmes est presque impossible. Le seul choix consiste alors souvent à réinitialiser le système, avec davantage de perturbations et de coûts à la clé. Annuler instantanément les conséquences immédiates d’une action de l’IA devient donc prioritaire, ce qui suppose de faire évoluer les processus de restauration.
Des risques qui dépassent les modèles
Selon une étude de McKinsey, plus de 60% des organisations expérimenteraient les agents d’IA, une expérimentation qui ne signifie pas que leur impact sur l’ensemble des opérations soit pleinement pris en compte. Plus de neuf agents sur dix (97%) disposeraient par ailleurs de privilèges considérables, pouvant mener à des conséquences négatives. Parmi les scénarios évoqués figure celui d’un agent supprimant en quelques secondes une base de données de production, sauvegardes comprises, à la suite d’une hallucination née de données de mauvaise qualité. Ce scénario s’est déjà produit, précise le texte : il ne relève donc pas de la simple hypothèse.
S’il suffisait autrefois qu’un humain intervienne pour bloquer les résultats faussés produits par les grands modèles de langage (LLM), ce n’est plus suffisant. La vitesse des agents en est une raison, mais leur nombre aussi : ils seraient environ 82 fois plus nombreux que les employés humains dans une entreprise type, selon les estimations. La stratégie de sécurité doit donc être revue en profondeur, et non simplement mise à jour.
Restaurer par changements plutôt que par systèmes
Les agents peuvent accéder à l’ensemble des données d’une entreprise, y compris les données non structurées fournies par les utilisateurs, ainsi qu’aux historiques de conversation et à de vieux documents redondants. Les cadres de contrôle existants ne sont pas forcément adaptés à ces usages. Les approches traditionnelles, comme le Zero Trust (un modèle de sécurité qui ne fait confiance à aucun accès par défaut), n’ont pas été conçues pour des agents capables de passer outre les barrières concentrées sur les terminaux et les identités.
Une piste consiste à intégrer les mesures de sécurité directement aux données, grâce à la classification et au masquage, plutôt que de les superposer. Les règles s’appliqueraient alors avant même qu’un agent puisse agir, ce qui, reconnaît le texte, n’est pas chose aisée.
Côté restauration, les entreprises pourraient identifier précisément la manière dont un agent a procédé, grâce à des mécanismes d’attribution liés aux objets suivis ou au suivi des changements au niveau des enregistrements, en tenant compte des dépendances. L’objectif est de ne corriger que ce qui doit l’être. Les agents continueront toutefois à commettre des erreurs : pour les entreprises qui n’ont jamais eu à revenir en arrière, la question n’est plus de savoir si elles devront le faire, mais quand.
Le texte insiste sur le maintien de la supervision humaine, et présente une restauration précise comme un moyen de réduire les coûts opérationnels et de renforcer la confiance dans l’IA agentique. En cas d’erreur, les conséquences ne devraient pas être trop graves si une telle restauration est en place.
