Alex Stamos, Chief Information Security Officer (CISO) des Unternehmens Cognition und Dozent an der Stanford University, ist der Ansicht, dass die Cybersicherheit eine besonders verwirrende Phase durchläuft, da künstliche Intelligenz Wellen von Eindringlingen und Angriffen verstärkt. In einem Interview mit dem Podcast *Decoder* von The Verge erklärt er, dass die Sicherheitsbranche, wie wir sie kennen, diesen Offensiven « im Wesentlichen hinterherhinkt » und in das eintritt, was er als « dunkles Zeitalter » bezeichnet.
- KI stellt die Cybersicherheit auf den Kopf, und die Verteidigung hinkt den Angriffen hinterher.
- Open-Weight-Modelle könnten die gesamte Angriffskette automatisieren, von der Schwachstellensuche bis zum Exploit.
- Die Kosten für Angreifer tendieren gegen null, während die Verteidigung teuer bleibt.
- Als Gegenmittel nennt Stamos speichersichere Sprachen wie Rust und die kryptografische Verifizierung von Bildern.
Um diese Einschätzung zu veranschaulichen, nennt Alex Stamos mehrere jüngere Vorfälle. Seiner Ansicht nach wurde das Unternehmen Fireworks, ein KI-Dienstleister für mehrere Firmen, gehackt, und dabei sollen API-Schlüssel (die Identifikatoren, die Software zur Kommunikation untereinander benötigt) gestohlen worden sein. Diese Schlüssel hätten den Zugang zu Cursor ermöglicht, wo ein schädliches Plugin an etwa 5.000 Unternehmen verteilt worden sei, was zu 5.000 potenziellen Sicherheitslücken geführt habe. Er bezeichnet außerdem den Hack von Binance als « größten Diebstahl in der Geschichte der Menschheit ».
Er beschreibt auch, wie diese Angriffe durchgeführt werden. Er spricht von einer « Kill Chain » oder Angriffskette, also der Abfolge der Schritte, die notwendig sind, um ein Ziel zu erreichen. Traditionell bereiteten Angreifer Schwachstellen und Exploit-Programme im Voraus vor, bevor ein Mensch sie einsetzte. Mit KI, insbesondere mit Open-Weight-Modellen (deren Funktionsweise für alle zugänglich ist), könnte diese Kette automatisiert werden: Seiner Meinung nach kann ein System Schwachstellen in Echtzeit erkennen und Exploits schreiben. Er nennt ein chinesisches Open-Source-Tool auf GitHub, das in Verbindung mit einem Modell namens « obliterated GLM-5.3 » den Einbruch in drei südkoreanische Banken und anschließend, seiner Aussage nach, in etwa 200 weitere Unternehmen ermöglicht haben soll.
Eine Welt, die den 1990er Jahren ähnelt
Alex Stamos vergleicht die Situation mit dem Ende der 1990er Jahre, als Windows seiner Aussage nach « ein Sicherheitsdesaster » war. Der Unterschied, präzisiert er, sei, dass heute die ganze Welt über das Internet funktioniere und Angriffe nun in großem Maßstab automatisiert werden könnten. Er erwähnt auch die beteiligten Akteure: Seiner Ansicht nach werden die Angriffe auf KI-Unternehmen von der sogenannten « Chinese cottage access industry » durchgeführt, kleinen chinesischen Subunternehmern, die ihren Zugang an größere Firmen weiterverkaufen, während der Diebstahl von Bitcoins bei Binance vor allem Nordkorea zuzuordnen sei, mit einer seiner Meinung nach sehr ausgefeilten Social Engineering-Komponente.
Zu hohe Verteidigungskosten
Das wirtschaftliche Ungleichgewicht nimmt in seiner Argumentation eine zentrale Rolle ein. Er führt an, dass die Kosten pro Token für Angreifer gegen Null tendieren, während die Kosten für die Verteidigung hoch bleiben. Er zitiert einen Kollegen, der bei einer großen Sicherheitsplattform arbeitet und angibt, dass eine einzige Untersuchung mit einem hochmodernen Cyber-Modell 900 Dollar kostet. Um dieses Problem anzugehen, trainiert Cognition eigene Modelle oder trainiert Open-Weight-Modelle neu, um diese Kosten zu senken.
Alex Stamos erwähnt auch eine radikalere Lösung: die Neuimplementierung des Linux-Kernels in Rust, einer speichersicheren Programmiersprache. Er schätzt, dass ein solches Projekt, durchgeführt von Google oder Amazon, 100 Millionen Dollar kosten würde, eine Summe, die er im Vergleich zu den gesellschaftlichen Kosten aufeinanderfolgender Patches für moderat hält. Er fügt hinzu, dass die Anzahl der monatlich veröffentlichten Patches ständig steige: Seiner Aussage nach enthielt die jüngste Patch Tuesday-Ausgabe « 900 und ein paar » Patches.
Auf die Frage nach der Inhaltsüberprüfung ist er der Ansicht, dass es zuverlässiger ist, die Authentizität eines Bildes zu beweisen, als KI-generierte Inhalte zu erkennen. Er erinnert daran, dass Adobe bereits eine kryptografische Verifizierung für professionelle Fotografen anbietet und dass iPhones nun eine ähnliche Funktion integriert haben.
