Un’ondata di divulgazioni di falle critiche, soprannominata «Black October», ha seguito l’annuncio di vulnerabilità come PHP2Shell e GitLab, un momento che l’autore del post considera come quello in cui i rischi cyber legati ai modelli di IA hanno iniziato a concretizzarsi. Un nuovo grave incidente di sicurezza presso Binance, la piattaforma di criptovalute, è stato poi segnalato, con sospetti pirati informatici che avrebbero sottratto miliardi.
L’autore ricorda che il settore delle criptovalute è da lungo tempo soggetto a pirateria informatica, il che lo rende, a suo avviso, poco rappresentativo per misurare il passaggio dalle vulnerabilità a nuovi danni per la società. Ritiene che il lavoro dietro le quinte si sia soprattutto accelerato, con più persone e risorse mobilitate per correggere le falle. Il Wall Street Journal riferisce che i primi soccorritori nella cybersicurezza sono sotto pressione, cosa che l’autore interpreta come segno che il sistema funziona.
Un modello a pesi aperti in aprile sarebbe stato gestibile?
Il post torna su un punto di dibattito. Un modello a pesi aperti (open-weight) è un modello i cui parametri sono pubblicati e possono essere scaricati da tutti. All’annuncio di Claude Mythos, il modello di Anthropic è stato presentato come una nuova classe di arma cyber, la cui diffusione in mani sbagliate avrebbe potuto provocare una destabilizzazione massiva della società. Per l’autore, questa lettura era errata: secondo lui, GLM-5.3 supera già questa soglia di capacità, e gli elementi pubblici sono poco cambiati dalla pubblicazione dei suoi pesi, oltre un mese fa.
Avanza persino che una fuga di Claude Mythos in accesso aperto avrebbe probabilmente lasciato il mondo «più o meno» intatto. Avrebbe comportato un netto aumento degli incidenti di cybersicurezza, ma piuttosto un’accelerazione che una rottura. L’autore cita diverse dichiarazioni di personalità influenti. Rob Wiblin, conduttore del podcast 80,000 Hours, dichiarava il 10 aprile 2026: «Se finisse nelle mani di criminali o attori statali ostili, sarebbe un vero disastro». Anthropic, nel post che annunciava Project Glasswing il 7 aprile 2026, scriveva che «le ripercussioni per le economie, la sicurezza pubblica e la sicurezza nazionale potrebbero essere gravi». Zvi Mowshowitz, il 9 aprile 2026, evocava «una cornucopia di exploit zero-day per praticamente tutti i software del pianeta».
Falle scoperte, ma una catena d’attacco complessa
Una pubblicazione di Epoch AI descrive lavori interni che utilizzano GLM-5.3 per individuare vulnerabilità e concatenarle in un attacco potenziale. L’exploit trovato in Firefox illustra, secondo l’autore, la necessità di diverse condizioni riunite affinché si verifichi un danno: un attaccante deve tra l’altro installare un sito che sfrutti questa falla, cosa che resta possibile ma costituisce un passo tra gli altri.
L’autore riconosce di aver scelto male la parola: il termine «corretto» gli sembra insufficiente per descrivere il futuro della cybersicurezza, che implicherà un aggiornamento costoso del modo di lavorare con i software. Ritiene che i modelli aperti contribuiscano all’equilibrio tra attacco e difesa, e che le aziende adotterebbero senza dubbio più rapidamente questi modelli rispetto agli attaccanti, spesso meno dotati di risorse. Suppone che la maggior parte delle vulnerabilità recenti sia stata trovata da modelli chiusi, con un margine d’errore importante, e che i modelli aperti restino costosi da far funzionare. Secondo lui, le ricerche cyber mostrano che l’aumento degli exploit e dei danni è in corso da ben prima di ChatGPT. Conclude che, a questo stadio, le prove restano molto deboli per incriminare i modelli aperti, e che i modelli chiusi hanno svolto un ruolo più importante nei recenti attacchi informatici.
