Cyberaanvallen gelinkt aan kunstmatige intelligentie nemen toe. Hackers stelen toegangssleutels tot AI-diensten om ze te verkopen of te misbruiken, en gebruiken AI-agents om hun inbraken te versnellen.
Binnen een maand zijn minstens een dozijn platformen bedoeld voor AI-ontwikkelaars getroffen. De meest recente incidenten betreffen CommandCode, Northflank, Trigger.dev, Chainstack en WorkOS. Andere genoemde bedrijven zijn Andromeda, Brev (NVIDIA), Fireworks AI, Lightning AI, OpenCode, Railway, Warp en Zeabur, waarvan de aanvallers vooral zochten naar geheimen die voor rekening van hun klanten waren opgeslagen.
In al deze gevallen lijken de hackers te zoeken naar AI-toegangstokens, dat wil zeggen inloggegevens om taalmodelmodellen te gebruiken, die ze kunnen verhandelen. De aanvallen lijken niet onderling verbonden, hoewel ze deel uitmaken van dezelfde trend. Het toegangspunt varieert: gecompromitteerde inloggegevens, afhankelijkheden van derde-leveranciers of het uitbuiten van kwetsbaarheden.
Begeerde inloggegevens
De Cloud Security Alliance waarschuwt voor de aard van deze platformen zelf. « Indringers bereiken de inloggegevens van AI-leveranciers via de tussenlaag van hostingplatformen, evaluatiediensten en ontwikkelaarsconsoles, » schrijft de organisatie. Omdat deze laag inloggegevens voor rekening van vele klanten beheert, « kan één inbraak tegelijkertijd de sleutels van vele inference-accounts blootleggen ».
Volgens de analyse van Wiz wordt deze zoektocht naar inloggegevens verklaard door de opkomst van LLM-jacking, dat wil zeggen het kapen van toegang tot taalmodelmodellen, en door de ontwikkeling van tusseninfrastructuren die toegang geven tot deze modellen. Deze mechanismen maken gestolen tokens gemakkelijk te gelde, wat volgens het cybersecuritybedrijf meer kwaadwillende actoren zou moeten aantrekken tot het stelen van inloggegevens. Wiz merkt ook op dat deze vraag wordt aangewakkerd door distillatie, waarbij een goedkoper model wordt getraind op basis van de antwoorden van een geavanceerder model, een praktijk die het bedrijf associeert met Chinese AI-laboratoria, hoewel dit niet vaststaat.
Wiz geeft aan dat het hackers heeft zien gebruikmaken van gecompromitteerde bedrijfsinloggegevens tijdens deze aanvallen. Twee gevallen deelden « een identieke eerste ongeautoriseerde activiteit, die plaatsvond binnen 30 minuten na de toegang tot de inloggegevens die gemeld werd in de inbreuk van de leverancier ». Het bedrijf heeft ook vastgesteld dat meerdere kwaadwillende actoren dezelfde gecompromitteerde sleutels gebruikten, wat volgens hen « wijst op een robuuste markt voor dit type inloggegevens ».
Artex, een automatiseringstool
Deze week hebben Chainstack, leverancier van blockchain-infrastructuren en Web3-diensten, en WorkOS, een platform voor programmeerinterfaces voor bedrijfstoepassingen, cyberaanvallen aangekondigd die leunen op Artex, een open source-framework voor AI-gestuurde penetratietests. Verschillende bedrijven hebben aanvallen toegeschreven aan de Chinese APT Storm-0940 ook in verband gebracht met Artex, waaronder een campagne gericht op klanten van ConnectWise.
Chainstack werd getroffen op 26 oktober. De aanvallers kregen toegang tot een ontwikkelomgeving en een deel van de productieomgeving van het bedrijf via een component van een derde partij. Volgens het bedrijf bevatte de geraadpleegde database informatie over klantaccounts, waaronder organisatienamen, account-houdernamen, e-mailadressen en wachtwoord-hashes. De inloggegevens van de nodes zijn mogelijk ook blootgelegd, en Chainstack heeft zijn klanten gevraagd deze te vernieuwen.
Op 30 oktober geeft WorkOS aan dat de hackers een interne applicatie hebben gecompromitteerd die door zijn verkoopteam wordt gebruikt. Ze kregen toegang tot professionele contactgegevens en samenvattingen van communicatie met klanten, evenals informatie over het gebruik van WorkOS-producten.
