Cyberataki związane ze sztuczną inteligencją mnożą się. Hakerzy kradną klucze dostępu do usług AI, aby je odsprzedać lub wykorzystać, i używają agentów AI do przyspieszenia swoich włamań.
- Hakerzy kradną klucze dostępu do usług AI, aby je odsprzedać lub wykorzystać.
- W ciągu miesiąca ataki dotknęły kilkanaście platform dla deweloperów AI.
- Jedno włamanie może narazić klucze wielu klientów, ostrzega Cloud Security Alliance.
- Chainstack i WorkOS ujawniły ataki wykorzystujące Artex, narzędzie do testów penetracyjnych wspomagane przez AI.
W ciągu miesiąca celem stało się co najmniej kilkanaście platform przeznaczonych dla deweloperów AI. Najnowsze incydenty dotyczą CommandCode, Northflank, Trigger.dev, Chainstack i WorkOS. Wśród innych wymienianych firm znajdują się Andromeda, Brev (NVIDIA), Fireworks AI, Lightning AI, OpenCode, Railway, Warp i Zeabur, gdzie napastnicy poszukiwali głównie tajemnic przechowywanych na rzecz ich klientów.
We wszystkich tych przypadkach hakerzy zdają się szukać tokenów dostępu do AI, czyli poświadczeń umożliwiających korzystanie z modeli językowych, które mogą sprzedać. Ataki nie wydają się być ze sobą powiązane, choć wpisują się w ten sam trend. Punkt wejścia jest różny: skompromitowane poświadczenia, zależności od dostawców zewnętrznych lub wykorzystanie luk w zabezpieczeniach.
Pożądane poświadczenia
Cloud Security Alliance ostrzega przed samą naturą tych platform. „Intruzi uzyskują dostęp do poświadczeń dostawców AI poprzez warstwę pośrednią platform hostingowych, usług oceny i konsoli dla deweloperów » – pisze organizacja. Ponieważ ta warstwa przechowuje poświadczenia dla wielu klientów, „pojedyncze włamanie może jednocześnie narazić klucze wielu kont inferencyjnych ».
Według analizy Wiz, to poszukiwanie poświadczeń tłumaczy się wzrostem LLM-jackingu, czyli przejmowania dostępu do modeli językowych, oraz rozwojem infrastruktur pośredników dających dostęp do tych modeli. Te mechanizmy sprawiają, że skradzione tokeny łatwo jest zmonetyzować, co zdaniem firmy zajmującej się cyberbezpieczeństwem powinno przyciągnąć więcej złośliwych podmiotów do kradzieży poświadczeń. Wiz zauważa też, że na to zapotrzebowanie napędza destylacja, polegająca na trenowaniu tańszego modelu na podstawie odpowiedzi bardziej zaawansowanego modelu, praktykę tę firma wiąże z chińskimi laboratoriami AI, choć nie jest to potwierdzone.
Wiz informuje, że obserwowała hakerów wykorzystujących skompromitowane poświadczenia firmowe podczas tych ataków. Dwa przypadki miały „identyczną pierwszą nieautoryzowaną aktywność, która wystąpiła w ciągu 30 minut od uzyskania dostępu do poświadczeń zgłoszonych w naruszeniu dostawcy ». Firma zaobserwowała również, że wielu złośliwych aktorów używało tych samych skompromitowanych kluczy, co jej zdaniem „sugeruje istnienie żywego rynku dla tego typu poświadczeń ».
Artex, narzędzie automatyzacji
W tym tygodniu Chainstack, dostawca infrastruktury blockchain i usług Web3, oraz WorkOS, platforma interfejsów programistycznych dla aplikacji korporacyjnych, ogłosiły cyberataki wykorzystujące Artex, otwartoźródłowe narzędzie do testów penetracyjnych wspomagane przez AI. Kilka firm powiązało również z Arteksem ataki przypisywane chińskiej APT Storm-0940, w tym kampanię wymierzoną w klientów ConnectWise.
Chainstack został zaatakowany 26 października. Napastnicy uzyskali dostęp do środowiska deweloperskiego i części środowiska produkcyjnego firmy poprzez komponent zewnętrzny. Według firmy, przeszukana baza danych zawierała informacje o kontach klientów, w tym nazwy organizacji, nazwy właścicieli kont, adresy e-mail i skróty haseł. Poświadczenia węzłów mogły również zostać ujawnione, a Chainstack poprosił swoich klientów o ich odnowienie.
30 października WorkOS informuje, że hakerzy przejęli kontrolę nad wewnętrzną aplikacją używaną przez ich zespół sprzedaży. Uzyskali dostęp do danych kontaktowych służbowych i podsumowań komunikacji z klientami, a także informacji o wykorzystaniu produktów WorkOS.
