Senza una governance adeguata, gli agenti di IA rischiano di passare, in modo autonomo, invisibile e rapido, da un vantaggio a un disastro per le aziende. Sysdig ha annunciato Sysdig AI Defense, un prodotto che porta la sicurezza e la governance in tempo di esecuzione (o runtime) a questi agenti.
- Gli agenti di IA possono agire in modo autonomo e rapido, senza un controllo adeguato.
- Sysdig AI Defense monitora ogni azione dell’agente, dall’inizio alla fine.
- Il prodotto blocca o fa validare le azioni rischiose prima del loro completamento.
- Un registro di audit inalterabile traccia le politiche applicate, i tempi e i responsabili.
Per Loris Degioanni, fondatore e direttore tecnico (CTO) di Sysdig, la necessità è chiara. « L’IA passa dalla risposta all’azione. Prima c’erano macchine per conversare. Oggi, l’IA agentica fa cose al posto nostro », spiega.
Il problema risiede nella capacità di questi agenti di andare oltre ciò che è stato loro richiesto, più velocemente di quanto si possa controllare. Sysdig sottolinea la necessità di monitorare ciò che fanno in modo continuo.
Tracciare ogni azione, fino in fondo
Secondo Sysdig, AI Defense osserva e monitora ogni azione di un agente, dal suo punto di partenza al suo completamento. Il compito non è affatto semplice. Un agente può acquisire rapidamente nuove capacità nel tentativo di portare a termine la sua missione. Ogni azione può essere registrata, ma dietro di essa possono nascondersi almeno cinque processi, visibili solo dal kernel del sistema operativo, che modificano discretamente il funzionamento dell’agente.
« L’agente distribuito al mattino non è sempre quello che gira nel pomeriggio », avverte Sysdig, che aggiunge che « solo il kernel mostra ciò che è stato realmente eseguito ». Se la sicurezza impone di bloccare un’azione, la risposta deve essere immediata. « Servono soluzioni che funzionano in fase di esecuzione, molto rapidamente, e che possono attivare una risposta », sottolinea Loris Degioanni. « Qualsiasi risposta di blocco deve intervenire in tempo reale, in linea, mentre l’azione si svolge e prima che sia completata. »
Per il dirigente, la distinzione tra ciò che l’agente dichiara e ciò che fa è centrale. « Un agente può riportare male una chiamata a uno strumento, ma non può riscrivere le sue interazioni con il sistema o il mondo esterno », afferma. « Il racconto che un agente fa delle sue azioni è un contesto utile, ma non è una prova. Quando ciò che riporta e ciò che le sue azioni mostrano non coincidono, si ha un rilevamento. »
Inventario, politiche e tracciabilità
Sysdig afferma che il suo prodotto offre diverse funzioni distinte. Stabilisce un inventario in tempo reale degli agenti, dei loro ‘harnais’, dei modelli, dei server MCP, delle competenze e delle estensioni, costruito a partire dalla telemetria di esecuzione. Ogni agente può essere collegato a un responsabile umano identificato.
Le azioni agentiche giudicate rischiose possono essere rilevate, sottoposte a una validazione umana o bloccate prima di essere portate a termine. Dei modelli di politiche predefinite possono incorporare regole associate a riferimenti come l’OWASP Top 10 for LLM Applications. Ogni politica parte in modalità allerta, per poi passare in modalità applicazione quando l’organizzazione è pronta.
Le azioni dell’agente e quelle di AI Defense vengono registrate man mano che si svolgono. Un grafo delle azioni in tempo reale presenta ogni fase in ordine, mettendo a confronto ciò che l’agente dice di fare e ciò che fa realmente, a cosa può accedere e in nome di quale autorità agisce. Il risultato, secondo l’azienda, è un registro di audit inalterabile che indica quali politiche sono state applicate, quando, e chi le ha validate.
Il tema si inserisce in un contesto più ampio. L’IBM Institute for Business Value, in uno studio dedicato alla governance dell’IA agentica, nota che « quando gli agenti di IA passano dai progetti pilota alla produzione, i sistemi prendono decisioni autonome in volumi che nessuna governance umana può ragionevolmente supervisionare ». Secondo questo studio, « entro il 2027, le aziende prevedono di distribuire in media 1.661 agenti di IA, con un aumento del 38% rispetto ad oggi ».
