Alex Stamos, direttore della sicurezza (CISO) dell’azienda Cognition e docente alla Stanford University, ritiene che la cybersecurity stia attraversando un periodo particolarmente confuso, con l’intelligenza artificiale che amplifica ondate di intrusioni e attacchi. In un’intervista concessa al podcast *Decoder* di The Verge, afferma che l’industria della sicurezza, come la conosciamo, è « essenzialmente in ritardo » di fronte a queste offensive, e che sta entrando in quella che lui chiama un « età oscura ».
- Alex Stamos ritiene che la cybersecurity sia in ritardo di fronte alle ondate di attacchi amplificate dall’IA.
- Secondo lui, l’IA può automatizzare la catena di attacco e scrivere exploit in tempo reale.
- Il costo della difesa resta alto, mentre il costo per gli aggressori tende a zero.
- Stamos propone di riscrivere il kernel Linux in Rust e di puntare sulla verifica crittografica delle immagini.
Per illustrare questa constatazione, Alex Stamos cita diversi incidenti recenti. Secondo lui, la società Fireworks, fornitrice di servizi di IA per diverse aziende, è stata violata, e sarebbero state sottratte delle chiavi API (le credenziali che permettono ai software di comunicare tra loro). Queste chiavi avrebbero permesso di accedere a Cursor, dove un plugin dannoso sarebbe stato diffuso verso 5.000 aziende, provocando 5.000 potenziali violazioni. Definisce inoltre il furto di dati a Binance come « il più grande furto della storia dell’umanità ».
Descrive anche il modo in cui questi attacchi vengono condotti. Parla di « kill chain », o catena di attacco, cioè l’insieme dei passaggi necessari per raggiungere un obiettivo. Tradizionalmente, gli aggressori preparavano in anticipo le vulnerabilità e i programmi di sfruttamento, prima che un essere umano li dispiegasse. Con l’IA, e in particolare con i modelli a peso aperto (il cui funzionamento è accessibile a tutti), questa catena potrebbe essere automatizzata: secondo lui, un sistema può individuare le vulnerabilità e scrivere gli exploit in tempo reale. Cita uno strumento open source cinese disponibile su GitHub che, associato a un modello chiamato « obliterated GLM-5.3 », avrebbe permesso di introdursi in tre banche sudcoreane e poi, secondo lui, in circa altre 200 aziende.
Un mondo che ricorda gli anni ’90
Alex Stamos paragona la situazione alla fine degli anni ’90, quando Windows era, secondo le sue parole, « un disastro in termini di sicurezza ». La differenza, precisa, è che oggi il mondo intero funziona su Internet e che gli attacchi possono ora essere automatizzati su larga scala. Evoca anche gli attori in gioco: secondo lui, gli attacchi contro le aziende di IA sono condotti da quella che viene chiamata la « Chinese cottage access industry », piccoli subappaltatori cinesi che rivendono i loro accessi a imprese più grandi, mentre il furto di bitcoin a Binance riguarderebbe soprattutto la Corea del Nord, con, secondo lui, un’ingegneria sociale molto elaborata.
Costi di difesa troppo elevati
Lo squilibrio economico occupa un posto centrale nel suo ragionamento. Sostiene che il costo per token per gli aggressori tende a zero, mentre il costo della difesa rimane elevato. Cita un collega che lavora in una grande piattaforma di sicurezza, secondo il quale una singola indagine condotta con un modello di cybersecurity all’avanguardia costa 900 dollari. Per rispondere a questo problema, Cognition addestra i propri modelli, o riaddestra modelli a peso aperto, per ridurre questi costi.
Alex Stamos evoca anche una soluzione più radicale: la riscrittura del kernel Linux in Rust, un linguaggio più sicuro dal punto di vista della memoria. Ritiene che un tale progetto, guidato da Google o Amazon, costerebbe 100 milioni di dollari, una cifra che giudica modesta rispetto ai costi sociali delle successive patch. Aggiunge che il numero di patch pubblicate ogni mese non fa che aumentare: secondo lui, l’edizione più recente di Patch Tuesday contava « 900 e qualcosa » di patch.
Interrogato sulla verifica dei contenuti, ritiene che sia più affidabile provare l’autenticità di un’immagine che rilevare i contenuti generati dall’IA. Ricorda che Adobe offre già una verifica crittografica per i fotografi professionisti e che gli iPhone integrano ormai una funzione simile.
