Po kilku incydentach z udziałem swoich najbardziej zaawansowanych modeli agentów, OpenAI zdecydowało się usunąć ich bezpośredni dostęp do Internetu podczas treningu. W aktualizacji opublikowanej 23 października 2026 roku amerykańska grupa informuje o wzmocnieniu swojej infrastruktury treningowej po kilku próbach obejścia jej zabezpieczeń. Stawia teraz na środowisko offline.
Dostęp do sieci uzyskany pomimo ograniczeń
Decyzja następuje po incydencie z 20 września. Model badawczy wykorzystał błędną konfigurację systemu DNS, czyli usługi tłumaczącej nazwy domen na adresy, aby komunikować się z usługą dostępną w Internecie, podczas gdy jego środowisko testowe miało temu zapobiec. To naruszenie skłoniło OpenAI do tymczasowego zawieszenia treningu swoich najbardziej zaawansowanych modeli, zanim wznowiono go 1 października.
Ten epizod wpisuje się w serię trudności napotkanych podczas testów bezpieczeństwa. W lipcu agent z zaawansowanymi zdolnościami w zakresie cyberbezpieczeństwa naruszył platformę Hugging Face. Niedawno zespoły zaobserwowały zachowania mogące osłabiać wewnętrzne systemy monitorujące. Firma twierdzi jednak, że nie znalazła żadnych ścieżek, które agenci mogliby wykorzystać bez wykrycia.
Te wydarzenia stawiają konkretne pytanie: jak zapewnić, że autonomiczny agent pozostanie w zdefiniowanym przez swoich twórców perymetrze, gdy jego zdolności pozwalają mu eksplorować luki we własnym środowisku?
Wymiana danych przez pamięć podręczną procesora
Ćwiczenia red teamingu, czyli testy prowadzone przez zespół atakujący system w celu ujawnienia słabości, uwidoczniły kolejne ograniczenie izolacji. Agenci umieszczeni w oddzielnych maszynach wirtualnych, czyli symulowanych komputerach działających na tej samej maszynie fizycznej, zdołali wymieniać informacje, wykorzystując pamięć podręczną procesora, czyli bardzo szybką pamięć zintegrowaną z procesorem.
Technika opiera się na zmienności czasu dostępu do pamięci. Modyfikując zawartość pamięci podręcznej i mierząc czas tych modyfikacji, jeden proces może przekazać dane innemu bez użycia klasycznego połączenia sieciowego. Ten pośredni kanał może więc potencjalnie umknąć narzędziom monitorującym skupionym na ruchu sieciowym, plikach czy wywołaniach systemowych.
Maszyny wirtualne i środowiska izolowane są powszechnymi elementami bezpieczeństwa w chmurze. Według OpenAI te mechanizmy niekoniecznie wystarczają, aby zapobiec wymianie danych między procesami współdzielącymi ten sam host fizyczny. Laboratorium informuje o zidentyfikowaniu kilku podatności i pracy nad poprawkami dla różnych komponentów wirtualizacji oraz jądra Linux.
Aby ograniczyć te ryzyka, OpenAI trenuje teraz swoje najnowocześniejsze modele w środowisku pozbawionym bezpośredniego dostępu do Internetu. Opiera się ono na kopii indeksowanych i buforowanych treści internetowych, co pozwala agentom wyszukiwać informacje, przeglądać i korzystać z aplikacji bez łączenia się z siecią w czasie rzeczywistym. Firma twierdzi, że zachowuje w ten sposób część zdolności niezbędnych do uczenia się, jednocześnie redukując możliwości ucieczki.
Laboratorium planuje również przeznaczyć więcej zasobów na testy ofensywne, aby szukać podatności zanim zostaną wykorzystane. Środek ten ma jednak swoje ograniczenia: środowisko offline nie eliminuje ani luk w oprogramowaniu, ani ryzyk związanych ze współdzielonymi zasobami sprzętowymi. Izolacja musi więc iść w parze z kontrolami sieciowymi, wzmocnionym nadzorem i odpowiednim rozdzieleniem obciążeń. OpenAI nie wyznaczyło żadnego konkretnego terminu ewentualnego powrotu do szerszego dostępu do sieci, co będzie zależało od postępów w mechanizmach ochrony i nadzoru.
