JFrog propone una funzionalità chiamata Local Shadow AI, destinata a individuare sui computer degli sviluppatori gli strumenti, le competenze e i componenti di intelligenza artificiale che sfuggono ai circuiti di approvazione aziendali. In un’intervista concessa a Monde Informatique, Nir Peleg, direttore globale della sicurezza dei sistemi informativi per i team sul campo di JFrog, ritiene che la proliferazione degli agenti di codifica stia facendo emergere nuovi rischi per la catena di sviluppo software.
Gli agenti di codifica generano direttamente codice a partire da prompt e possono scaricare autonomamente pacchetti o competenze la cui affidabilità non è stata verificata dall’azienda. Questi componenti possono contenere vulnerabilità o istruzioni malevole. Secondo Nir Peleg, la funzionalità analizza gli ambienti di sviluppo per identificare gli elementi non autorizzati e i rischi che presentano. I team di sicurezza possono quindi valutare le minacce rilevate e definire le misure correttive necessarie.
Un’analisi basata sul comportamento
JFrog indica di aver sviluppato un proprio meccanismo di analisi, basato su diversi metodi. Può individuare, ad esempio, una competenza che cerca di ottenere privilegi o accessi di cui non ha bisogno per svolgere la sua funzione. Il pericolo risiede anche in istruzioni nascoste dietro un linguaggio sofisticato: una competenza può sembrare legittima pur orientando il comportamento dell’agente verso azioni indesiderate. L’azienda cerca quindi di rilevare le anomalie comportamentali, e i suoi team di ricerca aggiornano i metodi man mano che le tecniche evolvono.
Alcuni clienti dispongono già di un grande modello linguistico (LLM), cioè un modello di IA addestrato su vasti volumi di testo, approvato dalla loro organizzazione. L’approccio Bring Your Own LLM Key (BYOK) consente loro di utilizzare la propria chiave API, che dà accesso a questo modello, piuttosto che dipendere necessariamente dal servizio di JFrog. Il meccanismo di analisi si basa quindi su questo modello, lasciando alle aziende la libertà di scegliere il proprio fornitore e di mantenere i propri accordi e politiche di sicurezza. In un deployment self-hosted, i dati rimangono nell’ambiente del cliente e il codice non viene inviato al cloud di JFrog.
Attacchi autonomi e governance
Tra gli scenari che preoccupano Nir Peleg figura la capacità dei modelli più avanzati di contribuire ad attacchi autonomi. Possono aiutare a scoprire nuove vulnerabilità, anche di tipo zero-day, cioè falle ancora sconosciute all’editore, per poi partecipare a catene di attacco composte da più fasi. «Gli aggressori possono potenzialmente agire su una scala e a una velocità senza precedenti», mentre i difensori devono ancora fare i conti con cicli di patch, validazione e approvazione che possono richiedere settimane.
Per governare questi utilizzi, il primo passo è ottenere visibilità su ciò che accade. «Se non vedi i download di Shadow IA o i componenti utilizzati dagli agenti, non puoi governarli», afferma. Occorre poi integrare la sicurezza e le politiche di controllo nel processo di sviluppo, che si tratti di dipendenze, competenze, connettori MCP (protocollo che collega un agente a strumenti esterni) o deployment.
L’obiettivo è disporre di un sistema comune che centralizzi la visibilità, le analisi di sicurezza, le regole e i controlli, per tracciare ogni fase, dalla modifica del codice fino al rilascio in produzione. Quando lo sviluppo avviene alla velocità degli agenti, la governance deve seguire lo stesso ritmo: non può più basarsi unicamente su verifiche umane a posteriori, e i controlli devono essere integrati nella piattaforma e nei processi automatizzati.
