Alex Stamos, dyrektor ds. bezpieczeństwa (CISO) w firmie Cognition i wykładowca na Uniwersytecie Stanforda, uważa, że cyberbezpieczeństwo przeżywa szczególnie mętny okres, ponieważ sztuczna inteligencja wzmacnia fale włamań i ataków. W wywiadzie dla podcastu *Decoder* The Verge twierdzi, że branża bezpieczeństwa, jaką znamy, jest « zasadniczo spóźniona » wobec tych ofensyw i wchodzi w to, co nazywa « wiekami ciemnymi ».
- Alex Stamos uważa, że sztuczna inteligencja wzmacnia ataki, a branża bezpieczeństwa jest spóźniona.
- Modele o otwartych wagach mogą zautomatyzować cały łańcuch ataku.
- Koszt ataków dąży do zera, a koszt obrony pozostaje wysoki.
- Cognition szkoli własne modele, a Stamos proponuje weryfikować autentyczność obrazów.
Dla zilustrowania tego stwierdzenia Alex Stamos przytacza kilka niedawnych incydentów. Jego zdaniem firma Fireworks, dostawca usług AI dla wielu przedsiębiorstw, została zhakowana, a klucze API (identyfikatory umożliwiające komunikację między oprogramowaniem) zostały wówczas skradzione. Te klucze miały umożliwić włamanie do Cursor, gdzie złośliwa wtyczka została rozpowszechniona do około 5 000 firm, powodując 5 000 potencjalnych naruszeń. Określa również zhakowanie Binance jako « największą kradzież w historii ludzkości ».
Opisuje także sposób przeprowadzania tych ataków. Mówi o « kill chain », czyli łańcuchu ataku, obejmującym wszystkie kroki niezbędne do osiągnięcia celu. Tradycyjnie napastnicy przygotowywali z wyprzedzeniem luki i programy eksploitacyjne, zanim człowiek je wdrożył. Dzięki AI, zwłaszcza modelom o otwartych wagach (których działanie jest dostępne dla wszystkich), ten łańcuch mógłby zostać zautomatyzowany: jego zdaniem system może wykrywać luki i pisać exploity w czasie rzeczywistym. Wspomina o chińskim narzędziu open source dostępnym na GitHubie, które w połączeniu z modelem o nazwie « obliterated GLM-5.3 » miało umożliwić włamanie do trzech południowokoreańskich banków, a następnie, według niego, do około 200 kolejnych firm.
Świat przypominający lata 90.
Alex Stamos porównuje sytuację do końca lat 90., kiedy Windows był, według jego słów, « katastrofą pod względem bezpieczeństwa ». Różnica, jak podkreśla, polega na tym, że dziś cały świat działa w Internecie, a ataki mogą być teraz automatyzowane na dużą skalę. Wspomina również o graczach: jego zdaniem ataki na firmy AI są prowadzone przez tak zwaną « chińską chałupniczą branżę dostępu », małych chińskich podwykonawców, którzy odsprzedają swoje dostępy większym firmom, podczas gdy kradzież bitcoinów z Binance przypisywana jest głównie Korei Północnej, z bardzo zaawansowanym, jego zdaniem, inżynierią społeczną.
Zbyt wysokie koszty obrony
Nierównowaga ekonomiczna zajmuje centralne miejsce w jego rozumowaniu. Twierdzi, że koszt na token dla atakujących dąży do zera, podczas gdy koszt obrony pozostaje wysoki. Przytacza kolegę pracującego w dużej platformie bezpieczeństwa, według którego pojedyncze dochodzenie prowadzone z zaawansowanym modelem cybernetycznym kosztuje 900 dolarów. Aby odpowiedzieć na ten problem, Cognition szkoli własne modele lub ponownie trenuje modele o otwartych wagach, aby obniżyć te koszty.
Alex Stamos wspomina również o bardziej radykalnym rozwiązaniu: przepisaniu jądra Linux w języku Rust, bezpieczniejszym pod względem pamięci. Uważa, że taki projekt, prowadzony przez Google lub Amazon, kosztowałby 100 milionów dolarów, kwotę, którą uważa za skromną w porównaniu z kosztami społecznymi kolejnych łatek. Dodaje, że liczba łatek publikowanych co miesiąc nieustannie rośnie: jego zdaniem najnowsza edycja Patch Tuesday zawierała « 900 i coś » poprawek.
Zapytany o weryfikację treści, uważa, że bardziej niezawodne jest udowodnienie autentyczności obrazu niż wykrywanie treści generowanych przez AI. Przypomina, że Adobe oferuje już weryfikację kryptograficzną dla profesjonalnych fotografów, a iPhone’y mają teraz wbudowaną podobną funkcję.
