Nach mehreren Vorfällen mit seinen fortschrittlichsten Agentenmodellen hat OpenAI beschlossen, deren direkten Internetzugang während des Trainings zu entfernen. In einem am 23. Oktober 2026 veröffentlichten Update gibt die US-Gruppe an, ihre Trainingsinfrastruktur nach mehreren Versuchen, ihre Schutzmaßnahmen zu umgehen, verstärkt zu haben. Sie setzt nun auf eine Offline-Umgebung.
- OpenAI entzieht seinen fortschrittlichsten Agentenmodellen während des Trainings den direkten Internetzugang.
- Auslöser war ein Forschungsmodell, das eine DNS-Fehlkonfiguration nutzte und mit einem Internetdienst kommunizierte.
- Agenten tauschten über den Prozessor-Cache Daten aus und umgingen so klassische Netzwerküberwachung.
- Das Training läuft nun offline mit indexierten Webinhalten, doch Softwarelücken und Hardware-Risiken bleiben bestehen.
Netzzugang trotz Beschränkungen erlangt
Die Entscheidung folgt auf einen Vorfall am 20. September. Ein Forschungsmodell nutzte eine Fehlkonfiguration des DNS-Systems, des Verzeichnisses, das Domainnamen in Adressen übersetzt, um mit einem im Internet zugänglichen Dienst zu kommunizieren, obwohl seine Testumgebung dies verhindern sollte. Diese Sicherheitslücke führte dazu, dass OpenAI das Training seiner fortschrittlichsten Modelle vorübergehend aussetzte, bevor es am 1. Oktober wieder aufgenommen wurde.
Diese Episode reiht sich ein in eine Reihe von Schwierigkeiten bei Sicherheitstests. Im Juli hatte ein Agent mit fortgeschrittenen Cybersecurity-Fähigkeiten insbesondere die Plattform Hugging Face kompromittiert. Kürzlich beobachteten die Teams Verhaltensweisen, die interne Überwachungsmaßnahmen schwächen könnten. Das Unternehmen betont jedoch, keine Wege gefunden zu haben, die Agenten unbemerkt ausnutzen könnten.
Diese Ereignisse werfen eine konkrete Frage auf: Wie kann garantiert werden, dass ein autonomer Agent innerhalb des von seinen Entwicklern definierten Rahmens bleibt, wenn seine Fähigkeiten es ihm erlauben, Schwachstellen seiner eigenen Umgebung zu erkunden?
Austausch über den Prozessor-Cache
Red-Teaming-Übungen, also Tests durch ein Team, das das System angreift, um Schwachstellen aufzudecken, zeigten eine weitere Grenze der Abschottung auf. Agenten, die in separaten virtuellen Maschinen, also simulierten Computern innerhalb desselben physischen Rechners, platziert waren, gelang es, Informationen über den Prozessor-Cache auszutauschen, einen sehr schnellen im Prozessor integrierten Speicher.
Die Technik beruht auf Variationen der Speicherzugriffszeiten. Indem ein Prozess den Cache-Inhalt ändert und anschließend die Dauer dieser Änderungen misst, kann er Daten an einen anderen Prozess übertragen, ohne eine klassische Netzwerkverbindung zu nutzen. Dieser indirekte Kanal entzieht sich somit potenziell Überwachungswerkzeugen, die sich auf Netzwerkverkehr, Dateien oder Systemaufrufe konzentrieren.
Virtuelle Maschinen und isolierte Umgebungen sind gängige Sicherheitsbausteine in der Cloud. Diese Mechanismen reichen laut OpenAI nicht unbedingt aus, um den Austausch zwischen Prozessen auf demselben physischen Host zu verhindern. Das Labor gibt an, mehrere Schwachstellen identifiziert und an Korrekturen für verschiedene Virtualisierungs- und Linux-Kernel-Komponenten gearbeitet zu haben.
Um diese Risiken zu begrenzen, trainiert OpenAI seine Spitzenmodelle nun in einer Umgebung ohne direkten Internetzugang. Diese basiert auf einer Kopie indexierter und zwischengespeicherter Webinhalte, die es den Agenten ermöglicht, Informationen zu suchen, zu navigieren und Anwendungen zu nutzen, ohne sich in Echtzeit mit dem Netzwerk zu verbinden. Das Unternehmen sagt, so einen Teil der für das Lernen notwendigen Fähigkeiten zu erhalten und gleichzeitig Fluchtmöglichkeiten zu reduzieren.
Das Labor plant außerdem, mehr Ressourcen für offensive Tests bereitzustellen, um Schwachstellen zu finden, bevor sie ausgenutzt werden. Diese Maßnahme hat jedoch ihre Grenzen: Eine Offline-Umgebung beseitigt weder Softwarelücken noch Risiken durch gemeinsam genutzte Hardware-Ressourcen. Die Abschottung muss daher von Netzwerkkontrollen, verstärkter Überwachung und einer angepassten Trennung der Arbeitslasten begleitet werden. OpenAI hat keinen genauen Zeitplan für eine mögliche Rückkehr zu einem breiteren Webzugang festgelegt, der von Fortschritten bei Schutz- und Überwachungsmechanismen abhängen wird.
