Cyberangriffe im Zusammenhang mit künstlicher Intelligenz häufen sich. Hacker stehlen Zugangsschlüssel zu KI-Diensten, um sie zu verkaufen oder auszunutzen, und verwenden KI-Agenten, um ihre Einbrüche zu beschleunigen.
- Hacker stehlen vermehrt KI-Zugangsschlüssel, um sie zu verkaufen oder auszunutzen.
- Innerhalb eines Monats wurden mindestens ein Dutzend Plattformen für KI-Entwickler angegriffen.
- KI-Agenten beschleunigen die Einbrüche, und Angreifer nutzen dafür das Open-Source-Werkzeug Artex.
- Ein einziger Einbruch bei einem Zwischenanbieter kann die Schlüssel vieler Kunden gefährden.
Innerhalb eines Monats wurden mindestens ein Dutzend Plattformen für KI-Entwickler ins Visier genommen. Die jüngsten Vorfälle betreffen CommandCode, Northflank, Trigger.dev, Chainstack und WorkOS. Zu den weiteren genannten Unternehmen zählen Andromeda, Brev (NVIDIA), Fireworks AI, Lightning AI, OpenCode, Railway, Warp und Zeabur, bei denen die Angreifer hauptsächlich im Auftrag ihrer Kunden gespeicherte Secrets suchten.
In all diesen Fällen scheinen die Hacker nach KI-Zugangstokens zu suchen, also nach Zugangsdaten zur Nutzung von Sprachmodellen, die sie zu Geld machen können. Die Angriffe scheinen nicht miteinander verknüpft zu sein, auch wenn sie einem gemeinsamen Trend folgen. Der Einstiegspunkt variiert: kompromittierte Zugangsdaten, Abhängigkeiten von Drittanbietern oder die Ausnutzung von Schwachstellen.
Begehrte Zugangsdaten
Die Cloud Security Alliance warnt vor der eigentlichen Natur dieser Plattformen. «Die Eindringlinge gelangen über die Zwischenschicht der Hosting-Plattformen, Evaluierungsdienste und Entwicklerkonsolen an die Zugangsdaten der KI-Anbieter», schreibt die Organisation. Da diese Schicht Zugangsdaten für viele Kunden verwaltet, «kann ein einziger Einbruch gleichzeitig die Schlüssel vieler Inferenzkonten preisgeben».
Laut der Analyse von Wiz erklärt sich diese Suche nach Zugangsdaten durch den Aufstieg des LLM-Jacking, also der Entwendung des Zugangs zu Sprachmodellen, und durch die Entwicklung von Infrastrukturen von Zwischenhändlern, die Zugang zu diesen Modellen geben. Diese Mechanismen machen gestohlene Tokens leicht monetarisierbar, was laut dem Cybersicherheitsunternehmen mehr böswillige Akteure zum Diebstahl von Zugangsdaten anlocken sollte. Wiz stellt auch fest, dass diese Nachfrage durch Distillation angeheizt wird, bei der ein kostengünstigeres Modell aus den Antworten eines fortschrittlicheren Modells trainiert wird – eine Praxis, die das Unternehmen mit chinesischen KI-Laboren in Verbindung bringt, auch wenn dies nicht abschließend geklärt ist.
Wiz gibt an, beobachtet zu haben, dass Hacker bei diesen Angriffen kompromittierte Unternehmenszugangsdaten ausnutzen. Zwei Fälle teilten «eine identische erste unbefugte Aktivität, die innerhalb von 30 Minuten nach dem gemeldeten Zugriff auf die Zugangsdaten beim Verstoß des Anbieters erfolgte». Das Unternehmen stellte auch fest, dass mehrere böswillige Akteure dieselben kompromittierten Schlüssel verwendeten, was ihrer Ansicht nach «auf einen robusten Markt für diese Art von Zugangsdaten hindeutet».
Artex, ein Automatisierungswerkzeug
Diese Woche haben Chainstack, ein Anbieter von Blockchain-Infrastruktur und Web3-Diensten, und WorkOS, eine Plattform für Programmierschnittstellen für Unternehmensanwendungen, Cyberangriffe gemeldet, die auf Artex basieren, einem Open-Source-Framework für KI-gestützte Penetrationstests. Mehrere Unternehmen haben Angriffe, die der chinesischen APT Storm-0940 zugeschrieben werden, ebenfalls mit Artex in Verbindung gebracht, darunter eine Kampagne gegen Kunden von ConnectWise.
Chainstack wurde am 26. Oktober getroffen. Die Angreifer gelangten über eine Drittanbieterkomponente in eine Entwicklungsumgebung und einen Teil der Produktionsumgebung des Unternehmens. Laut dem Unternehmen enthielt die eingesehene Datenbank Informationen zu Kundenkonten, einschließlich Organisationsnamen, Kontoinhabernamen, E-Mail-Adressen und Passwort-Hashes. Auch Knoten-Zugangsdaten könnten exponiert worden sein, und Chainstack hat seine Kunden aufgefordert, diese zu erneuern.
Am 30. Oktober gab WorkOS bekannt, dass Hacker eine interne Anwendung seines Vertriebsteams kompromittiert haben. Sie erhielten Zugang zu Geschäftskontaktdaten und Zusammenfassungen von Kundenkommunikation sowie zu Informationen zur Nutzung der WorkOS-Produkte.
