L’intelligenza artificiale riconfigura l’equazione della sicurezza su due fronti: gli agenti IA agiscono con un’autonomia crescente, mentre l’IA accelera la scoperta di vulnerabilità. Ai centri operativi di sicurezza (SOC) spetta l’obbligo di selezionare questi segnali, in un contesto in cui l’attualità mette in luce sistemi di IA che intraprendono azioni inattese e non autorizzate, così come attori malevoli che utilizzano workflow IA autonomi nelle loro operazioni cyber.
OpenAI ha pubblicato sei esempi di comportamenti malevoli o preoccupanti osservati durante gli addestramenti: alcuni modelli hanno avuto accesso a chiavi API (identificativi che danno accesso a un servizio) esposte senza autorizzazione, hanno scaricato file esterni o utilizzato repository per comunicare. Da parte sua, Anthropic ha segnalato attori malevoli che dispiegano sciami di agenti in operazioni di ricognizione, sfruttamento, esfiltrazione di dati e ricerca di vulnerabilità.
Le organizzazioni non possono più accontentarsi di rilevare i problemi dopo che si sono verificati. La sfida consiste ormai nel mantenere una supervisione reale quando aggressori e sistemi di IA possono operare alla velocità delle macchine, con sempre meno intervento umano.
La scoperta di vulnerabilità assistita dall’IA aumenta il volume e la velocità di ciò che i team devono convalidare, prioritizzare e correggere. Riduce anche la finestra di tempo tra la divulgazione di una falla e il suo sfruttamento. Sapere cosa si utilizza, applicare rapidamente le patch e ridurre la superficie esposta rimangono imperativi.
La stessa logica di visibilità si applica agli agenti IA. Operando alla velocità delle macchine, richiedono credenziali a perimetro limitato e a breve durata, una gestione rigorosa dei segreti, così come limiti chiari sulle risorse accessibili e sulle destinazioni dei dati. La capacità di fermare un agente in qualsiasi momento costituisce uno strato cruciale di supervisione umana.
Non si può proteggere ciò che non si vede
La risposta finale di un agente rappresenta solo una parte della sua cronologia di sicurezza. I team devono comprendere come i sistemi di IA si comportano nel loro ambiente: a quali risorse si connettono, quali dati elaborano, e se questa attività è coerente con quanto previsto. Ciò presuppone di collegare i segnali generati dall’IA alle identità, alle applicazioni e all’infrastruttura, piuttosto che trattarla come un silos a parte.
Senza questo contesto, è difficile distinguere un’attività anomala da un comportamento legittimo, o comprendere le condizioni che l’hanno causata. Questa dinamica ha fatto passare la visibilità dallo status di disciplina operativa a quello di requisito di sicurezza critico.
Questa visibilità si basa anche su fondamenta. La telemetria generata dagli agenti (prompt, chiamate a strumenti, risorse toccate, identità utilizzate) deve essere raccolta, conservata e protetta da qualsiasi alterazione, al fine di ricostruire il filo delle azioni intraprese.
Anche con una solida visibilità interna, nessun team sarà il primo a vedere ogni minaccia. Le stesse capacità di IA che accelerano gli attacchi sono utilizzate simultaneamente da molteplici attori, in molteplici ambienti. La condivisione di informazioni sulle minacce e l’apprendimento collettivo appaiono quindi come componenti essenziali della risposta. Quando le osservazioni possono essere ispezionate, messe in discussione e condivise all’interno di una comunità più ampia, le organizzazioni hanno maggiori possibilità di convalidare le vulnerabilità, sviluppare patch e agire prima che la stessa falla diventi un problema altrove.
Le fondamenta devono tenere il passo
L’IA può anche giocare un ruolo sul fronte difensivo. Ben utilizzata, aiuta gli analisti a correlare i segnali, sintetizzare gli incidenti, prioritizzare gli allarmi e accelerare le indagini. Non può tuttavia compensare dati frammentati o inaccessibili, né sostituirsi a fondamenta di sicurezza che non sono state messe in atto.
Le organizzazioni meglio posizionate sono quelle che hanno fatto questo lavoro di fondo. Sanno quali asset possiedono, cosa è esposto e come si presenta un comportamento normale. Applicano il principio del minimo privilegio alle identità umane come agli agenti, mantengono gli elementi confidenziali fuori dalla portata degli agenti e conservano una telemetria protetta da qualsiasi alterazione.
Dispongono di punti di controllo (gate) per approvare le azioni di agenti ad alto impatto, così come della capacità di fermare un agente quando qualcosa sembra anomalo. I loro processi di risposta agli incidenti partono dal presupposto che gli agenti possano comportarsi male, con playbook (procedure standard) che coprono la revoca dell’identità di un agente, la ricostruzione delle sue azioni e il ripristino di ciò che ha toccato.
Capacità di IA più potenti non rendono queste fondamenta obsolete; aumentano il costo della loro assenza. La visibilità permette di verificare che reggano. Con queste basi in atto, i difensori possono rispondere a ciò che l’IA rivela, comprendere cosa accade nei loro ambienti e agire prima che una falla di controllo diventi un incidente.
