Start-up zajmujący się cyberbezpieczeństwem Cathedral twierdzi, że w mniej niż 12 godzin zidentyfikował luki w oprogramowaniu stron trzecich używanym przez Anthropic, wydawcę modelu Claude. Firma potwierdza ograniczony dostęp do niektórych systemów wewnętrznych, ale zapewnia, że nie przeglądano konwersacji użytkowników ani komponentów swoich modeli.
Agenci AI, czyli programy zdolne do automatycznego wykonywania wielu zadań, mogą przyspieszać zarówno poszukiwanie luk, jak i zdolności ataku. Według wstępnego raportu Cathedral, młodej firmy zajmującej się cyberbezpieczeństwem, jej badacze znaleźli ścieżki dostępu do kilku wewnętrznych systemów Anthropic w mniej niż 12 godzin. Dokument, do którego dotarł Washington Post, wspomina o potencjalnie dostępnych informacjach, w tym protokołach z posiedzeń, danych płacowych i wymianach na Slacku dotyczących zaawansowanych modeli AI firmy.
Anthropic precyzuje, że badacze spędzili kilka dni na bezskutecznych próbach bezpośredniego włamania się do jego oprogramowania. Następnie mieli skierować się ku podatnym aplikacjom biznesowym stron trzecich. « Mniej niż 12 godzin » odpowiada więc tylko fazie owocnych poszukiwań, a nie wszystkim próbom. Według opublikowanych informacji, dostępu nie uzyskano atakując bezpośrednio Claude’a lub jego infrastrukturę treningową, lecz wykorzystując oprogramowanie używane do działalności handlowej i administracyjnej. Wydawcy tego oprogramowania nie zostali publicznie zidentyfikowani.
Program ujawniania w centrum sprawy
Cathedral została założona przez byłych członków Department of Government Efficiency (DOGE), agencji administracji Trumpa odpowiedzialnej za redukcję wydatków publicznych. Firma rozwija zdolności w zakresie cyberbezpieczeństwa oparte na AI, w tym do zastosowań rządowych. Twierdzi, że prowadziła swoje badania w ramach programu ujawniania luk Anthropic, który zezwala zewnętrznym badaczom na testowanie określonych zabezpieczeń i zgłaszanie odkrytych luk, i wskazuje, że przekazała swoje wyniki wydawcy i dotkniętym dostawcom.
Zakwestionowana skala
Anthropic przyznaje, że badacze dotarli do ograniczonego obwodu jego systemów biznesowych, kadrowych i IT. Dostępne były służbowe dane kontaktowe klientów i partnerów oraz podstawowe informacje o niektórych kontach użytkowników. Z drugiej strony, firma twierdzi, że nie przeglądano konwersacji użytkowników z Claude’em, odpowiedzi modelu, kodu źródłowego ani wytrenowanych parametrów. Wskazuje, że jej mechanizmy monitorowania wykryły część aktywności Cathedral przed zgłoszeniem badaczy, że odcięła dostęp tego samego dnia i wyłączyła dotknięte oprogramowanie w oczekiwaniu na poprawki od dostawców. Twierdzi wreszcie, że nie ma żadnych dowodów na to, że inni aktorzy wykorzystali te same luki.
Obie firmy różnią się w interpretacji incydentu. Cathedral przedstawia swoje wyniki jako ostrzeżenie o pojawiających się ofensywnych zdolnościach AI. Anthropic uważa natomiast, że start-up wyolbrzymił implikacje swoich odkryć dla bezpieczeństwa narodowego i zarzuca mu niezadeklarowanie całej swojej działalności zgodnie z zasadami programu badawczego. Opublikowane informacje nie pozwalają na tym etapie stwierdzić naruszenia modeli Anthropic. Ustala się jednak, że ograniczony dostęp do aplikacji biznesowych może narazić wrażliwe informacje.
