OpenAI hat am Donnerstag GPT-6 Cyber vorgestellt, ein Modell für Cybersicherheit, das laut Unternehmen deutlich leistungsfähiger ist als sein Vorgänger. OpenAI zufolge hält es sich auch besser an die von den Forschern gesetzten Grenzen.
- OpenAI stellt GPT-6 Cyber vor, das laut Unternehmen leistungsfähiger ist und sich besser an Grenzen hält.
- Das Modell löst 48,5 % der ExploitGym-Aufgaben, GPT-5.6 Cyber schafft 32,1 %.
- Im Linux-Kernel reproduziert es 1.724 Schwachstellen, im Browser Firefox meldet es 81 neue Probleme.
- Der Zugang bleibt vorerst auf genehmigte Kunden von Daybreak Red beschränkt.
Bei ExploitGym, einem Test, der prüft, ob eine KI eine gegebene Schwachstelle auf einem entfernten Ziel ausnutzen kann, erreicht das neue Modell 48,5 %, gegenüber 32,1 % für GPT-5.6 Cyber. OpenAI stuft GPT-6 Cyber gemäß seinem Preparedness Framework, seinem Risikobewertungsrahmen, auf der Stufe „Critical » für Cybersicherheit ein. Diese Stufe liegt über „High », die GPT-5.6 Cyber zugeordnet wurde.
Ein Verhalten gegenüber Köderzielen getestet
In einem seiner Alignment-Tests erhielt das Modell eine Exploit-Aufgabe zusammen mit Neben-Diensten, die absichtlich leicht zu hacken, aber außerhalb des erlaubten Bereichs waren. Ohne Sicherheitsanweisungen zum Zeitpunkt des Einsatzes unterließ es es in 99,93 % der Fälle, sie auszunutzen, gegenüber 94,49 % bei GPT-5.6 Cyber. Mit diesen Anweisungen zielte es nie auf diese Köderdienste ab.
„Diese Verbesserung der Ausrichtung spiegelt ein spezielles Training wider, das darauf abzielt, im erlaubten Bereich zu bleiben, Einschränkungen zu respektieren und Ergebnisse genau zu berichten », erklärt OpenAI.
Schwachstellen in Linux und Firefox festgestellt
Die Forscher von OpenAI haben das Modell auf den Linux-Kernel angewendet, wo es 1.724 Schwachstellen reproduzierte und funktionierende Privilege-Escalation-Exploits für 948 davon erstellte. GPT-5.6 Sol, mit denselben Tools getestet, wurde ebenfalls für diese Aufgabe bewertet. OpenAI gibt an, 304 kritische Probleme an die Projektbetreuer gemeldet zu haben, zusammen mit vorgeschlagenen Patches.
Im Browser Firefox dokumentierte das Modell 81 neue Schwachstellen, die Mozilla als hochschwerwiegend einstufte, jede davon durch Beweise und reproduzierbare Tests untermauert. Mozilla hat begonnen, die Patches auszurollen.
Sicherheitsvorkehrungen und eingeschränkter Zugang
OpenAI führt neue Schutzmaßnahmen ein, darunter ein Überwachungssystem, das prüft, ob die Aktionen des Modells dem entsprechen, was der Nutzer tun darf. Weitere Sicherheitsvorkehrungen sollen verhindern, dass seine Modelle dabei helfen, industrielle Steuerungssysteme und andere sicherheitskritische Systeme zu kompromittieren. Diese Maßnahmen wurden auf Basis von Rückmeldungen von Dragos, einem auf industrielle Cybersicherheit spezialisierten Unternehmen, verfeinert, das Daybreak-Red-Modelle in einem kontrollierten Labor getestet hat.
„Die Kompetenzschwelle für die Erkennung und Erforschung von Schwachstellen, die vor einem Angriff notwendig sind, sinkt », sagte Rob T. Lee, AI Director von Dragos.
Derzeit ist der Zugang auf bestimmte genehmigte Kunden von Daybreak Red beschränkt, dem Teil von OpenAIs Daybreak-Programm, das sich fortgeschrittenen Exploit-Arbeiten und autorisierten Tests widmet. Sie können GPT-6 Cyber über die API und Codex nutzen. OpenAI plant, das Modell schrittweise für alle Daybreak-Red-Kunden zu öffnen, die auch GPT-5.6 Cyber erhalten. Eine Daybreak-Red-Gruppe für genehmigte Verteidiger kritischer Infrastrukturen wird zudem kontrollierte Tests an sensiblen Systemen ermöglichen.
