Alex Stamos, Chief Information Security Officer (CISO) bij Cognition en docent aan Stanford University, stelt dat cybersecurity een bijzonder verwarrende periode doormaakt, waarbij kunstmatige intelligentie golven van inbraken en aanvallen versterkt. In een interview met de podcast *Decoder* van The Verge zegt hij dat de beveiligingsindustrie zoals we die kennen « in wezen achterloopt » op deze offensieven en een zogenaamd « donker tijdperk » ingaat.
- Alex Stamos waarschuwt dat AI cybersecurity in een donker tijdperk brengt, waarin de sector achterloopt op aanvallers.
- AI kan kwetsbaarheden opsporen en exploits in realtime schrijven, waardoor aanvallen geautomatiseerd kunnen worden.
- De kosten voor aanvallers dalen naar nul, terwijl verdediging duur blijft en bedrijven daarom eigen modellen trainen.
- Stamos ziet het herschrijven van de Linux-kernel in Rust als radicale oplossing en vertrouwt op cryptografische verificatie van echte beelden.
Om dit te illustreren noemt Alex Stamos verschillende recente incidenten. Volgens hem werd het bedrijf Fireworks, een leverancier van AI-diensten voor meerdere bedrijven, gehackt, waarbij API-sleutels (de inloggegevens die software onderling laat communiceren) zouden zijn gestolen. Deze sleutels zouden toegang hebben verschaft tot Cursor, waar een kwaadaardige plugin naar ongeveer 5.000 bedrijven zou zijn verspreid, wat tot 5.000 potentiële datalekken zou hebben geleid. Hij kwalificeert de hack van Binance verder als « de grootste diefstal in de geschiedenis van de mensheid ».
Hij beschrijft ook hoe deze aanvallen worden uitgevoerd. Hij spreekt over een « kill chain », of aanvalsketen, dat wil zeggen de reeks stappen die nodig is om een doelwit te bereiken. Traditioneel bereidden aanvallers van tevoren kwetsbaarheden en exploitprogramma’s voor, voordat een mens ze inzette. Met AI, en met name open-weight modellen (waarvan de werking voor iedereen toegankelijk is), zou deze keten geautomatiseerd kunnen worden: volgens hem kan een systeem kwetsbaarheden opsporen en exploits in realtime schrijven. Hij noemt een open-source tool van Chinese makelij, beschikbaar op GitHub, die, gekoppeld aan een model genaamd « obliterated GLM-5.3 », toegang zou hebben verschaft tot drie Zuid-Koreaanse banken en vervolgens, naar zijn zeggen, ongeveer 200 extra bedrijven.
Een wereld die lijkt op de jaren 1990
Alex Stamos vergelijkt de situatie met het einde van de jaren 1990, toen Windows volgens hem « een ramp op het gebied van beveiliging » was. Het verschil, benadrukt hij, is dat de hele wereld tegenwoordig op internet draait en dat aanvallen nu op grote schaal geautomatiseerd kunnen worden. Hij noemt ook de betrokken actoren: volgens hem worden de aanvallen op AI-bedrijven uitgevoerd door de zogenaamde « Chinese cottage access industry », kleine Chinese onderaannemers die hun toegang verkopen aan grotere bedrijven, terwijl de diefstal van bitcoins bij Binance vooral het werk zou zijn van Noord-Korea, met, volgens hem, een zeer uitgekiende social engineering.
Te hoge verdedigingskosten
De economische onbalans speelt een centrale rol in zijn redenering. Hij stelt dat de kosten per token voor aanvallers naar nul neigen, terwijl de kosten voor verdediging hoog blijven. Hij citeert een collega die bij een groot beveiligingsplatform werkt, volgens wie een enkel onderzoek met een geavanceerd cybermodel 900 dollar kost. Om dit probleem aan te pakken, traint Cognition zijn eigen modellen, of traint open-weight modellen opnieuw, om deze kosten te verlagen.
Alex Stamos noemt ook een radicalere oplossing: het herschrijven van de Linux-kernel in Rust, een veiligere programmeertaal op het gebied van geheugenbeheer. Hij schat dat zo’n project, uitgevoerd door Google of Amazon, 100 miljoen dollar zou kosten, een bedrag dat hij bescheiden vindt in vergelijking met de maatschappelijke kosten van opeenvolgende patches. Hij voegt eraan toe dat het aantal patches dat elke maand wordt uitgebracht blijft stijgen: volgens hem telde de meest recente Patch Tuesday-editie « 900 en nog wat » patches.
Gevraagd naar de verificatie van inhoud, vindt hij het betrouwbaarder om de authenticiteit van een afbeelding te bewijzen dan door AI gegenereerde inhoud op te sporen. Hij herinnert eraan dat Adobe al cryptografische verificatie biedt voor professionele fotografen en dat iPhones nu een vergelijkbare functie hebben ingebouwd.
