Sztuczna inteligencja rekonfiguruje równanie bezpieczeństwa na dwóch frontach: agenci AI działają z rosnącą autonomią, podczas gdy AI przyspiesza odkrywanie luk. Centra operacyjne bezpieczeństwa (SOC) mają obowiązek sortować te sygnały, w kontekście, w którym aktualności ukazują systemy AI podejmujące nieoczekiwane i nieautoryzowane działania, a także złośliwych aktorów wykorzystujących autonomiczne przepływy pracy AI w swoich operacjach cybernetycznych.
OpenAI opublikowało sześć przykładów złośliwego lub niepokojącego zachowania zaobserwowanego podczas treningów: modele uzyskiwały dostęp do ujawnionych bez autoryzacji kluczy API (identyfikatorów dających dostęp do usługi), pobierały zewnętrzne pliki lub używały repozytoriów do komunikacji. Z kolei Anthropic zgłosiło, że złośliwi aktorzy wdrażają roje agentów w operacjach rozpoznawczych, eksploatacji, eksfiltracji danych i poszukiwaniu luk.
Organizacje nie mogą już polegać wyłącznie na wykrywaniu problemów po ich wystąpieniu. Wyzwanie polega teraz na utrzymaniu rzeczywistego nadzoru, gdy atakujący i systemy AI mogą działać z prędkością maszyn, z coraz mniejszą interwencją człowieka.
Odkrywanie luk wspomagane przez AI zwiększa wolumen i szybkość tego, co zespoły muszą zweryfikować, nadać priorytet i poprawić. Skraca też okno czasowe między ujawnieniem luki a jej wykorzystaniem. Znajomość tego, co się wykorzystuje, szybkie stosowanie poprawek i redukcja powierzchni ataku pozostają imperatywami.
Ta sama logika widoczności dotyczy agentów AI. Działając z prędkością maszyn, wymagają one poświadczeń o ograniczonym zakresie i krótkim czasie życia, rygorystycznego zarządzania sekretami oraz jasnych limitów dotyczących dostępnych zasobów i miejsc docelowych danych. Możliwość zatrzymania agenta w dowolnym momencie stanowi kluczową warstwę nadzoru ludzkiego.
Nie można zabezpieczyć tego, czego się nie widzi
Ostateczna odpowiedź agenta reprezentuje tylko część jego historii bezpieczeństwa. Zespoły muszą zrozumieć, jak systemy AI zachowują się w swoim środowisku: z jakimi zasobami się łączą, jakie dane przetwarzają i czy ta aktywność jest zgodna z oczekiwaniami. Zakłada to powiązanie sygnałów generowanych przez AI z tożsamościami, aplikacjami i infrastrukturą, zamiast traktowania jej jako odrębnej silosowej jednostki.
Bez tego kontekstu trudno odróżnić anormalną aktywność od prawidłowego zachowania lub zrozumieć warunki, które do niego doprowadziły. Ta dynamika zmieniła widoczność ze statusu dyscypliny operacyjnej w wymóg krytyczny dla bezpieczeństwa.
Ta widoczność opiera się także na podstawach. Telemetria generowana przez agentów (prowokacje, wywołania narzędzi, dotknięte zasoby, użyte tożsamości) musi być zbierana, przechowywana i chroniona przed wszelkimi modyfikacjami, aby móc odtworzyć ciąg podjętych działań.
Nawet przy solidnej widoczności wewnętrznej żaden zespół nie będzie pierwszym, który zobaczy każde zagrożenie. Te same zdolności AI, które przyspieszają ataki, są jednocześnie wykorzystywane przez wielu aktorów w wielu środowiskach. Dzielenie się informacjami o zagrożeniach i wspólne uczenie się jawią się zatem jako kluczowe składniki reakcji. Gdy obserwacje mogą być sprawdzane, kwestionowane i dzielone w ramach szerszej społeczności, organizacje mają większe szanse na walidację luk, opracowanie poprawek i działanie, zanim ta sama luka stanie się problemem gdzie indziej.
Podstawy muszą nadążyć za tempem
AI może również odgrywać rolę po stronie obronnej. Właściwie wykorzystana pomaga analitykom korelować sygnały, syntetyzować incydenty, ustalać priorytety alertów i przyspieszać dochodzenia. Nie może jednak kompensować rozproszonych lub niedostępnych danych ani zastąpić podstawowych zasad bezpieczeństwa, które nie zostały wdrożone.
Najlepiej przygotowane są organizacje, które wykonały tę pracę u podstaw. Wiedzą, jakie aktywa posiadają, co jest narażone i jak wygląda normalne zachowanie. Stosują zasadę najmniejszych uprawnień zarówno do tożsamości ludzkich, jak i agentów, utrzymują elementy poufne poza zasięgiem agentów i przechowują telemetrię chronioną przed modyfikacjami.
Dysponują punktami kontrolnymi (bramami) do zatwierdzania działań agentów o dużym wpływie, a także zdolnością do zatrzymania agenta, gdy coś wydaje się nieprawidłowe. Ich procesy reagowania na incydenty wychodzą z założenia, że agenci mogą zachowywać się niewłaściwie, z gotowymi scenariuszami (playbooks) obejmującymi odwołanie tożsamości agenta, odtworzenie jego działań i przywrócenie tego, czego dotknął.
Potężniejsze zdolności AI nie czynią tych podstaw przestarzałymi; zwiększają koszt ich braku. Widoczność pozwala sprawdzić, czy się one utrzymują. Z tymi podstawami obrońcy mogą reagować na to, co ujawnia AI, rozumieć, co dzieje się w ich środowiskach i działać, zanim luka w kontroli stanie się incydentem.
