VicOne ogłasza, że zidentyfikował 28 luk zero-day w mniej niż dwa dni, dzięki badaniom wspieranym przez sztuczną inteligencję, w oprogramowaniu i narzędziach wspierających ekosystem fizycznej sztucznej inteligencji. Wśród dotkniętych projektów znajdują się między innymi projekty rozwijane lub utrzymywane przez Google, NVIDIA i Meta. Ten artykuł to treść sponsorowana stworzona we współpracy z VicOne.
Luka zero-day to nieznana dotąd podatność, dla której nie ma dostępnej poprawki. Według wstępnej weryfikacji, wszystkie 28 odkryć zalicza się do tej kategorii. Ta liczba może ulec zmianie po analizie przez wydawców i organy odpowiedzialne za podatności, a niektóre odkrycia nie mają jeszcze przypisanego standardowego identyfikatora CVE.
Wiele z tych narzędzi pomaga zespołom w trenowaniu, symulacji, testowaniu i sterowaniu robotami. Słabość w jednym z nich mogłaby więc wpłynąć na modele tworzone przez zespoły, wyniki testów, na które się one powołują, oraz instrukcje wysyłane do robotów.
Luki odkrywane szybciej
Odkrywanie luk polega na badaniu kodu, śledzeniu sposobu komunikacji systemów i sprawdzaniu, czy podejrzewana słabość może zostać rzeczywiście wykorzystana. Według VicOne, sztuczna inteligencja może przyspieszyć część tej pracy i pozwolić badaczom analizować więcej oprogramowania w krótszym czasie. Atakujący mogą jednak dysponować podobnymi możliwościami.
Gdy luka jest typu zero-day, szybsze jej odkrycie może pozostawić mało czasu na reakcję. To narażenie niekoniecznie oznacza, że doszło do ataku, ale zespoły muszą ustalić, czy używają dotkniętego oprogramowania i co atakujący mógłby przejrzeć lub zmodyfikować.
Ryzyka na każdym etapie cyklu życia
Odkrycia VicOne dotyczą trzech etapów cyklu życia robota: rozwoju i trenowania, symulacji i walidacji, a następnie wdrożenia i wykonania. Według firmy, 75% odkryć dotyczy narzędzi do rozwoju, trenowania, symulacji lub walidacji, co oznacza, że ryzyka mogą pojawić się jeszcze przed wdrożeniem robota.
W fazie trenowania, model wstępnie wytrenowany, czyli już nauczony na dużych ilościach danych, może zostać zmodyfikowany bez wiedzy zespołu. Mógłby wtedy zachowywać się normalnie podczas standardowych testów, ale reagować nieprawidłowo na konkretny obiekt, scenę lub komendę po wdrożeniu. Podczas symulacji, skompromitowana scena lub model robota mógłby zafałszować dane z symulowanych czujników lub wyniki testów, prowadząc do zatwierdzenia robota na podstawie wprowadzających w błąd dowodów.
Podczas wykonania, atakujący mógłby zmodyfikować pliki wpływające na planowanie ruchu lub wysłać złośliwe dane mapowania zdolne do zawieszenia ekranu nadzoru operatora. Według VicOne, kompromitacja komputera teleoperacji mogłaby również zagrozić instrukcjom wysyłanym do robota. VicOne podkreśla, że są to potencjalne konsekwencje, a nie wykazane wyniki dla każdego odkrycia.
W osobnej demonstracji, badacze VicOne wykorzystali podatność, aby uniemożliwić działanie zdalnego polecenia zatrzymania robota. Według firmy, ten przypadek pokazuje, że zespoły muszą sprawdzić, czy ich urządzenia bezpieczeństwa pozostają skuteczne, gdy oprogramowanie je obsługujące zostanie skompromitowane.
Sprawdzić poprawkę przed wdrożeniem
Nawet gdy wydawca publikuje poprawkę, zespół musi zidentyfikować dotknięte systemy, sprawdzić kompatybilność aktualizacji i upewnić się, że zachowuje ona oczekiwane działanie. Test, który wcześniej się powiódł, pozostaje przydatny, ale niedawno odkryta luka może ujawnić warunki, których ten test nie badał.
VicOne proponuje trzy pytania, które pomogą w reakcji: gdzie jest używane dotknięte oprogramowanie, włącznie z komputerami treningowymi, środowiskami symulacyjnymi i wdrożonymi robotami? Co luka mogłaby zmodyfikować, czy to modele, wyniki testów, widoczność operatorów czy zachowanie robota? Jak sprawdzić, czy ochrona jest skuteczna? Gdy natychmiastowa aktualizacja jest niemożliwa, mogą być konieczne środki tymczasowe, takie jak ograniczenie dostępu do dotkniętej usługi, w oczekiwaniu na zweryfikowaną poprawkę.
VicOne prezentuje ponadto dwa produkty: Radeis, który pomaga identyfikować potencjalne luki zero-day, oceniać bezpieczeństwo modeli sztucznej inteligencji i systemów oraz symulować wpływ tych ryzyk na zachowanie robota przed jego wdrożeniem, oraz Rthena, który zapewnia wykrywanie zagrożeń i reagowanie w ramach zatwierdzonych polityk podczas eksploatacji.
