L’intelligence artificielle reconfigure l’équation de la sécurité sur deux fronts : les agents IA agissent avec une autonomie croissante, tandis que l’IA accélère la découverte de vulnérabilités. Aux centres opérationnels de sécurité (SOC) revient l’obligation de trier ces signaux, dans un contexte où l’actualité met en lumière des systèmes d’IA entreprenant des actions inattendues et non autorisées, ainsi que des acteurs malveillants utilisant des workflows IA autonomes dans leurs opérations cyber.
- Les agents IA gagnent en autonomie, et l’IA accélère la découverte de failles.
- Les organisations doivent garder une supervision réelle, même à la vitesse des machines.
- Elles doivent connaître leurs actifs, limiter les privilèges et protéger la télémétrie.
- Elles doivent pouvoir arrêter un agent et partager le renseignement sur les menaces.
OpenAI a publié six exemples de comportements malveillants ou préoccupants observés lors d’entraînements : des modèles ont accédé à des clés API (identifiants donnant accès à un service) exposées sans autorisation, téléchargé des fichiers externes ou utilisé des dépôts pour communiquer. De son côté, Anthropic a signalé des acteurs malveillants déployant des essaims d’agents dans des opérations de reconnaissance, d’exploitation, d’exfiltration de données et de recherche de vulnérabilités.
Les organisations ne peuvent plus se contenter de détecter les problèmes après qu’ils se sont produits. Le défi consiste désormais à maintenir une supervision réelle lorsque attaquants et systèmes d’IA peuvent opérer à la vitesse des machines, avec de moins en moins d’intervention humaine.
La découverte de vulnérabilités assistée par l’IA augmente le volume et la vitesse de ce que les équipes doivent valider, prioriser et corriger. Elle réduit aussi la fenêtre de temps entre la divulgation d’une faille et son exploitation. Savoir ce que l’on utilise, appliquer rapidement les correctifs et réduire la surface exposée restent des impératifs.
La même logique de visibilité s’applique aux agents IA. Opérant à la vitesse des machines, ils nécessitent des identifiants (credentials) à périmètre limité et à courte durée de vie, une gestion rigoureuse des secrets, ainsi que des limites claires sur les ressources accessibles et sur les destinations des données. La capacité d’arrêter un agent à tout moment constitue une couche cruciale de supervision humaine.
On ne peut pas sécuriser ce que l’on ne voit pas
La réponse finale d’un agent ne représente qu’une partie de son historique de sécurité. Les équipes doivent comprendre comment les systèmes d’IA se comportent dans leur environnement : à quelles ressources ils se connectent, quelles données ils traitent, et si cette activité est cohérente avec ce qui est attendu. Cela suppose de relier les signaux générés par l’IA aux identités, aux applications et à l’infrastructure, plutôt que de la traiter comme un silo à part.
Sans ce contexte, il est difficile de distinguer une activité anormale d’un comportement légitime, ou de comprendre les conditions qui y ont conduit. Cette dynamique a fait passer la visibilité du statut de discipline opérationnelle à celui d’exigence de sécurité critique.
Cette visibilité repose aussi sur des fondamentaux. La télémétrie générée par les agents (prompts, appels d’outils, ressources touchées, identités utilisées) doit être collectée, conservée et protégée contre toute altération, afin de remonter le fil des actions menées.
Même avec une visibilité interne solide, aucune équipe ne sera la première à voir chaque menace. Les mêmes capacités d’IA qui accélèrent les attaques sont utilisées simultanément par de multiples acteurs, dans de multiples environnements. Le partage de renseignements sur les menaces et l’apprentissage collectif apparaissent donc comme des composantes essentielles de la réponse. Lorsque les constats peuvent être inspectés, remis en question et partagés au sein d’une communauté plus large, les organisations ont davantage de chances de valider les vulnérabilités, de développer des correctifs et d’agir avant que la même faille ne devienne un problème ailleurs.
Les fondations doivent suivre le rythme
L’IA peut également jouer un rôle côté défensif. Bien utilisée, elle aide les analystes à corréler les signaux, synthétiser les incidents, prioriser les alertes et accélérer les investigations. Elle ne peut toutefois pas compenser des données fragmentées ou inaccessibles, ni se substituer à des fondamentaux de sécurité qui n’ont pas été mis en place.
Les organisations les mieux positionnées sont celles qui ont fait ce travail de fond. Elles savent quels actifs (assets) elles possèdent, ce qui est exposé et à quoi ressemble un comportement normal. Elles appliquent le principe du moindre privilège aux identités humaines comme aux agents, maintiennent les éléments confidentiels hors de portée des agents et conservent une télémétrie protégée de toute altération.
Elles disposent de points de contrôle (gates) pour approuver les actions d’agents à fort impact, ainsi que de la capacité à arrêter un agent lorsque quelque chose semble anormal. Leurs processus de réponse aux incidents partent du postulat que les agents peuvent mal se comporter, avec des playbooks (procédures types) couvrant la révocation de l’identité d’un agent, la reconstruction de ses actions et la restauration de ce qu’il a touché.
Des capacités d’IA plus puissantes ne rendent pas ces fondamentaux obsolètes ; elles augmentent le coût de leur absence. La visibilité permet de vérifier qu’ils tiennent. Avec ces bases en place, les défenseurs peuvent répondre à ce que l’IA révèle, comprendre ce qui se passe dans leurs environnements et agir avant qu’une faille de contrôle ne devienne un incident.
