OpenAI zaprezentowało w czwartek model GPT-6 Cyber, dedykowany bezpieczeństwu informatycznemu, który – według firmy – jest znacznie wydajniejszy od poprzednika. OpenAI twierdzi również, że lepiej przestrzega on granic wyznaczonych przez badaczy.
W teście ExploitGym, który sprawdza, czy sztuczna inteligencja potrafi wykorzystać daną lukę na zdalnym celu, nowy model osiągnął wynik 48,5%, podczas gdy GPT-5.6 Cyber uzyskał 32,1%. OpenAI klasyfikuje GPT-6 Cyber na poziomie „Critical » dla cyberbezpieczeństwa w swoim Preparedness Framework, czyli ramach oceny ryzyka. Ten poziom znajduje się powyżej „High », przypisanego GPT-5.6 Cyber.
Zachowanie testowane wobec celów-pułapek
W jednym z testów dostosowania (alignment), model otrzymywał zadanie wykorzystania luki wraz z dodatkowymi, celowo łatwymi do zhakowania usługami, które jednak znajdowały się poza dozwolonym zakresem. Bez instrukcji bezpieczeństwa w momencie wdrożenia, powstrzymał się od ich wykorzystania w 99,93% przypadków, w porównaniu do 94,49% dla GPT-5.6 Cyber. Z instrukcjami bezpieczeństwa nigdy nie atakował tych usług-pułapek.
„Ta poprawa w zakresie dostosowania odzwierciedla dedykowane szkolenie mające na celu pozostanie w dozwolonym zakresie, przestrzeganie ograniczeń i dokładne raportowanie wyników » – wskazuje OpenAI.
Wykryte luki w Linuxie i Firefoxie
Badacze OpenAI zastosowali model do jądra Linux, gdzie odtworzył on 1724 podatności i zbudował działające exploity pozwalające na podniesienie uprawnień dla 948 z nich. Testowany tymi samymi narzędziami, model GPT-5.6 Sol również został oceniony w tym zadaniu. OpenAI informuje, że zgłosiło 304 krytyczne problemy do opiekunów projektu wraz z proponowanymi poprawkami.
W przeglądarce Firefox model udokumentował 81 nowych luk, które Mozilla oceniła jako wysokiego ryzyka, każdą popartą dowodami i powtarzalnymi testami. Mozilla rozpoczęła wdrażanie poprawek.
Zabezpieczenia i ograniczony dostęp
OpenAI wprowadza nowe zabezpieczenia, w tym system monitorowania, który sprawdza, czy działania modelu odpowiadają temu, co użytkownik jest uprawniony robić. Inne środki ostrożności mają zapobiegać pomaganiu przez modele w naruszaniu systemów kontroli przemysłowej i innych systemów krytycznych dla bezpieczeństwa. Mechanizmy te zostały udoskonalone na podstawie opinii firmy Dragos, specjalizującej się w cyberbezpieczeństwie przemysłowym, która testowała modele Daybreak Red w kontrolowanym laboratorium.
„Próg kompetencji obniża się w zakresie rozpoznawania i poszukiwania luk niezbędnych przed atakiem » – powiedział Rob T. Lee, dyrektor ds. AI w Dragos.
Na razie dostęp jest ograniczony do wybranych, zatwierdzonych klientów Daybreak Red – części programu Daybreak OpenAI poświęconej zaawansowanym pracom nad exploitami i autoryzowanym testom. Mogą oni korzystać z GPT-6 Cyber za pośrednictwem API i Codexa. OpenAI planuje stopniowo otworzyć model dla wszystkich klientów Daybreak Red, którzy otrzymują również GPT-5.6 Cyber. Dodatkowo, dedykowana grupa Daybreak Red dla zatwierdzonych obrońców infrastruktury krytycznej umożliwi nadzorowane testy na wrażliwych systemach.
