Gli attacchi informatici legati all’intelligenza artificiale si stanno moltiplicando. I pirati informatici rubano chiavi di accesso a servizi di IA per rivenderle o sfruttarle e utilizzano agenti di IA per accelerare le loro intrusioni.
- Gli attacchi informatici legati all’IA aumentano rapidamente.
- I pirati rubano chiavi di accesso ai modelli linguistici per rivenderle o sfruttarle.
- Chainstack e WorkOS hanno subito intrusioni basate sullo strumento Artex.
- Le violazioni espongono dati dei clienti e credenziali, che devono essere rinnovate.
Nell’arco di un mese, almeno una dozzina di piattaforme destinate agli sviluppatori di IA sono state prese di mira. Gli incidenti più recenti riguardano CommandCode, Northflank, Trigger.dev, Chainstack e WorkOS. Tra le altre società citate figurano Andromeda, Brev (NVIDIA), Fireworks AI, Lightning AI, OpenCode, Railway, Warp e Zeabur, i cui attaccanti cercavano principalmente segreti archiviati per conto dei loro clienti.
In tutti questi casi, i pirati sembrano cercare token di accesso all’IA, ovvero credenziali che consentono di utilizzare modelli linguistici, che possono monetizzare. Gli attacchi non sembrano essere collegati tra loro, anche se rientrano in una stessa tendenza. Il punto di ingresso varia: credenziali compromesse, dipendenze di fornitori terzi o sfruttamento di vulnerabilità.
Credenziali ambite
La Cloud Security Alliance mette in guardia sulla natura stessa di queste piattaforme. «Gli intrusi raggiungono le credenziali dei fornitori di IA attraverso lo strato intermedio delle piattaforme di hosting, dei servizi di valutazione e delle console per sviluppatori», scrive l’organizzazione. Poiché questo strato detiene credenziali per conto di molti clienti, «una singola intrusione può esporre simultaneamente le chiavi di molti account di inferenza».
Secondo l’analisi di Wiz, questa ricerca di credenziali si spiega con l’ascesa del LLM-jacking, ovvero il dirottamento dell’accesso ai modelli linguistici, e con lo sviluppo di infrastrutture di intermediari che danno accesso a questi modelli. Questi meccanismi rendono i token rubati facili da monetizzare, il che dovrebbe, secondo la società di cybersecurity, attirare più attori malevoli verso il furto di credenziali. Wiz rileva anche che questa domanda è alimentata dalla distillation, che consiste nell’addestrare un modello meno costoso a partire dalle risposte di un modello più avanzato, una pratica che la società associa a laboratori di IA cinesi, senza che ciò sia stabilito.
Wiz indica di aver osservato pirati che sfruttano credenziali aziendali compromesse durante questi attacchi. Due casi hanno condiviso «una prima attività non autorizzata identica, avvenuta entro 30 minuti dall’accesso alle credenziali segnalato nella violazione del fornitore». La società ha anche constatato che diversi attori malevoli utilizzavano le stesse chiavi compromesse, il che, a suo avviso, «suggerisce un mercato robusto per questo tipo di credenziale».
Artex, uno strumento di automazione
Questa settimana, Chainstack, fornitore di infrastrutture blockchain e servizi Web3, e WorkOS, piattaforma di interfacce di programmazione per applicazioni aziendali, hanno annunciato attacchi informatici basati su Artex, un framework open source di test di penetrazione assistito dall’IA. Diverse aziende hanno inoltre collegato ad Artex attacchi attribuiti all’APT cinese Storm-0940, tra cui una campagna mirata a clienti di ConnectWise.
Chainstack è stata colpita il 26 ottobre. Gli attaccanti hanno avuto accesso a un ambiente di sviluppo e a una parte dell’ambiente di produzione dell’azienda tramite un componente di terze parti. Secondo la società, il database consultato conteneva informazioni sugli account dei clienti, inclusi nomi di organizzazioni, nomi dei titolari degli account, indirizzi email e impronte delle password. Anche le credenziali dei nodi potrebbero essere state esposte e Chainstack ha chiesto ai propri clienti di rinnovarle.
Il 30 ottobre, WorkOS indica che i pirati hanno compromesso un’applicazione interna utilizzata dal suo team commerciale. Hanno avuto accesso a coordinate professionali e a riassunti di comunicazioni con i clienti, nonché a informazioni sull’utilizzo dei prodotti WorkOS.
