Sicurezza dell’IA in Europa : i dati ROT emergono come questione centrale

Sicurezza dell’IA in Europa : i dati ROT emergono come questione centrale
3 min di lettura

Mentre l’Unione Europea si prepara ad applicare la sua legge sull’intelligenza artificiale, la qualità dei dati che alimentano i sistemi di IA attira meno attenzione della loro conformità. Un modello può superare test conclusivi e rispettare i requisiti normativi senza che la sua affidabilità tecnica sia per questo garantita, fanno valere gli autori dell’analisi.

Le incertezze che circondano le scadenze della legge europea sull’IA, così come i nuovi requisiti previsti nell’ambito del piano d’azione dell’UE in materia di cybersicurezza e intelligenza artificiale, preoccupano fortemente i responsabili della sicurezza dei sistemi informativi (RSSI) delle aziende europee. Per essere considerato « affidabile », un sistema di IA deve superare con successo dei test in sandbox, cioè ambienti di prova isolati, e rispondere a norme regolamentari precise. Tuttavia, conformità ufficiale e sicurezza operativa non sono necessariamente sinonimi.

I dati costituiscono l’anello più spesso trascurato. Se quelli forniti ai modelli sono ridondanti, obsoleti o banali, i cosiddetti dati ROT, i controlli perdono di validità.

Norme ancora incomplete

La regolamentazione europea sull’IA ha continuato a evolversi negli ultimi mesi. Poiché le norme tecniche necessarie per valutare la conformità non sono ancora definitive, la scadenza principale per la messa a norma applicabile ai sistemi di IA dispiegati in ambienti ad alto rischio è stata posticipata da agosto 2026 a dicembre 2027.

Per compensare l’assenza di quadri di valutazione, l’Unione Europea ha pubblicato il suo piano d’azione diverse settimane dopo l’annuncio di questo rinvio. Questo piano non aggiunge alcun vincolo legale. Prevede invece ambienti di prova protetti, linee guida e strumenti di valutazione da utilizzare prima di qualsiasi lancio commerciale, con l’obiettivo che le IA più avanzate siano dispiegate in sicurezza e rimangano conformi al regolamento sull’IA e alla direttiva NIS2.

Questo quadro favorisce, secondo l’analisi, lo sviluppo di modelli sicuri, ma copre solo una parte della catena. Per ottenere i certificati di conformità, i team di sicurezza dovranno esaminare il codice in dettaglio e raccogliere documenti probatori. Uno strumento di IA sicuro e conforme può comunque produrre irregolarità se utilizzato male.

Un errore umano è, nella maggior parte dei casi, individuato prima di aggravarsi. Tuttavia, le identità non umane e gli agenti autonomi sono 82 volte più numerosi dei dipendenti umani nelle aziende di medie dimensioni. Con gli agenti IA, gli errori si propagano molto rapidamente, e informazioni difettose possono alterare il modello meglio protetto senza innescare alcun allarme.

Il costo nascosto dei dati

Le aziende esaminano con attenzione i modelli, ma le informazioni che li alimentano ricevono meno considerazione. Quando la questione dei dati viene affrontata, lo è soprattutto dal punto di vista della sicurezza e raramente da quello della qualità.

Circa l’80% dei dati archiviati dalle aziende lo è in formati non strutturati e include una grande quantità di file ROT, accumulati per diverse decine di anni in infrastrutture cloud obsolete. Alimentare agenti di IA con questi dati può corromperli e portarli a scelte basate su analisi distorte, al punto da provocare situazioni di non conformità, anche quando i test condotti nelle sandbox si rivelano conclusivi.

La gestione di questi dati parassiti, spesso duplicati, genera anche costi difficili da identificare nella contabilità delle organizzazioni. Risorse di calcolo e cloud vengono mobilitate per elaborare informazioni prive di interesse. Gli investimenti in capitale (CapEx) dei grandi gruppi tecnologici dedicati all’intelligenza artificiale hanno superato la soglia dei 650 miliardi di dollari, ma i testi europei, rileva l’analisi, ignorano ancora il costo dei dati che alimentano questi sistemi.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x