Sécurité de l’IA en Europe : les données ROT s’imposent comme un enjeu central

Sécurité de l’IA en Europe : les données ROT s’imposent comme un enjeu central
4 min de lecture

Alors que l’Union européenne prépare l’application de sa loi sur l’intelligence artificielle, la qualité des données qui alimentent les systèmes d’IA attire moins d’attention que leur conformité. Un modèle peut réussir des tests concluants et respecter les exigences réglementaires sans que sa fiabilité technique soit pour autant garantie, font valoir les auteurs de l’analyse.

Les incertitudes entourant les échéances de la loi européenne sur l’IA, ainsi que les nouvelles exigences attendues dans le cadre du plan d’action de l’UE en matière de cybersécurité et d’intelligence artificielle, occupent fortement les responsables de la sécurité des systèmes d’information (RSSI) des entreprises européennes. Pour être considéré comme « fiable », un système d’IA doit passer avec succès des tests dans des bacs à sable, c’est-à-dire des environnements d’essai isolés, et répondre à des normes réglementaires précises. Or conformité officielle et sécurité opérationnelle ne sont pas forcément synonymes.

Les données constituent le maillon le plus souvent négligé. Si celles fournies aux modèles sont redondantes, obsolètes ou triviales, des données dites ROT, les contrôles ne sont plus valides.

Des normes encore incomplètes

La réglementation européenne sur l’IA a continué d’évoluer ces derniers mois. Les normes techniques nécessaires pour évaluer la conformité n’étant pas encore abouties, l’échéance principale de mise en conformité applicable aux systèmes d’IA déployés dans des environnements à haut risque a été repoussée d’août 2026 à décembre 2027.

Pour compenser l’absence de référentiels d’évaluation, l’Union européenne a publié son plan d’action plusieurs semaines après l’annonce de ce report. Ce plan n’ajoute aucune contrainte légale. Il prévoit en revanche des environnements d’essai protégés, des lignes directrices et des instruments d’évaluation à utiliser avant tout lancement commercial, avec pour objectif que les IA de pointe soient déployées sans danger et restent conformes au règlement sur l’IA et à la directive NIS2.

Ce cadre favorise, selon l’analyse, le développement de modèles sécurisés, mais il ne couvre qu’une partie de la chaîne. Pour obtenir les certificats de conformité, les équipes de sécurité devront examiner le code en détail et réunir des documents probants. Un outil d’IA sécurisé et conforme peut néanmoins produire des irrégularités s’il est mal utilisé.

Une erreur humaine est, dans la majorité des cas, repérée avant de s’aggraver. Or les identités non humaines et les agents autonomes sont 82 fois plus nombreux que les employés humains dans les entreprises de taille moyenne. Avec les agents IA, les erreurs se propagent très rapidement, et des informations défectueuses peuvent altérer le modèle le mieux protégé sans déclencher d’alarme.

Le coût caché des données

Les entreprises examinent avec attention les modèles, mais les informations qui les nourrissent reçoivent moins d’égards. Lorsque la question des données est abordée, elle l’est surtout sous l’angle de la sécurité et rarement sous celui de la qualité.

Environ 80 % des données stockées par les entreprises le sont sous des formats non structurés et comprennent une grande quantité de fichiers ROT, accumulés pendant plusieurs dizaines d’années dans des infrastructures cloud obsolètes. Alimenter des agents d’IA avec ces données peut les corrompre et les conduire à des choix fondés sur des analyses faussées, au point de provoquer des situations de non-conformité, même lorsque les tests menés dans les bacs à sable se révèlent concluants.

La gestion de ces données parasites, souvent dupliquées, génère aussi des frais difficiles à identifier dans la comptabilité des organisations. Des ressources de calcul et de cloud sont mobilisées pour traiter des informations sans intérêt. Les investissements en capital (CapEx) des grands groupes technologiques dédiés à l’intelligence artificielle ont franchi la barre des 650 milliards de dollars, mais les textes européens, relève l’analyse, ignorent encore le coût des données qui alimentent ces systèmes.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x