OpenAI heeft donderdag GPT-6 Cyber onthuld, een model voor cybersecurity dat het bedrijf aanprijst als aanzienlijk krachtiger dan zijn voorganger. Volgens OpenAI houdt het zich ook beter aan de grenzen die door onderzoekers zijn gesteld.
- OpenAI presenteert GPT-6 Cyber, een cybersecuritymodel dat sterker is dan zijn voorganger.
- Het model scoort 48,5% op ExploitGym, tegenover 32,1% voor GPT-5.6 Cyber, en krijgt het risiconiveau ‘Critical’.
- Het model blijft binnen de toegestane grenzen en valt met veiligheidsinstructies nooit de lokvoorzieningen aan.
- Het model vond kwetsbaarheden in Linux en Firefox, maar de toegang blijft voorlopig beperkt tot goedgekeurde klanten.
Op ExploitGym, een test die controleert of een AI een gegeven kwetsbaarheid op een extern doelwit kan uitbuiten, behaalt het nieuwe model 48,5%, tegenover 32,1% voor GPT-5.6 Cyber. OpenAI classificeert GPT-6 Cyber op het niveau ‘Critical’ voor cybersecurity volgens zijn Preparedness Framework, zijn risicobeoordelingskader. Dit niveau ligt boven ‘High’, dat aan GPT-5.6 Cyber werd toegekend.
Een gedrag getest tegenover lokdoelen
In een van zijn alignmenttests kreeg het model een exploitatieopdracht samen met nevenvoorzieningen, die opzettelijk makkelijk te hacken waren maar buiten het toegestane bereik lagen. Zonder veiligheidsinstructies tijdens de inzet onthield het zich in 99,93% van de gevallen van exploitatie, tegenover 94,49% voor GPT-5.6 Cyber. Met die instructies heeft het deze lokvoorzieningen nooit aangevallen.
« Deze verbetering in alignment weerspiegelt een specifieke training gericht op het blijven binnen het toegestane bereik, het respecteren van restricties en het nauwkeurig rapporteren van resultaten », aldus OpenAI.
Kwetsbaarheden gevonden in Linux en Firefox
De onderzoekers van OpenAI hebben het model toegepast op de Linux-kernel, waar het 1.724 kwetsbaarheden reproduceerde en werkende privilege-escalatie-exploits bouwde voor 948 daarvan. GPT-5.6 Sol, getest met dezelfde tools, werd ook op deze taak geëvalueerd. OpenAI geeft aan 304 kritieke problemen te hebben gemeld aan de projectonderhouders, vergezeld van voorgestelde patches.
In de Firefox-browser documenteerde het model 81 nieuwe kwetsbaarheden die Mozilla als hoog risico beoordeelde, elk onderbouwd met bewijs en reproduceerbare tests. Mozilla is begonnen met het uitrollen van de patches.
Veiligheidsmaatregelen en beperkte toegang
OpenAI voert nieuwe beschermingen in, waaronder een monitoringsysteem dat controleert of de acties van het model overeenkomen met wat de gebruiker mag doen. Andere veiligheidsmaatregelen moeten voorkomen dat zijn modellen helpen bij het compromitteren van industriële controlesystemen en andere veiligheidskritieke systemen. Deze maatregelen zijn verfijnd op basis van feedback van Dragos, een bedrijf gespecialiseerd in industriële cybersecurity, dat Daybreak Red-modellen testte in een gecontroleerd lab.
« De vaardigheidsdrempel voor het herkennen en onderzoeken van kwetsbaarheden die nodig zijn voor een aanval wordt lager », zei Rob T. Lee, AI-directeur van Dragos.
Voorlopig is de toegang beperkt tot bepaalde goedgekeurde klanten van Daybreak Red, het onderdeel van OpenAI’s Daybreak-programma gewijd aan geavanceerd exploitwerk en geautoriseerde tests. Zij kunnen GPT-6 Cyber gebruiken via de API en Codex. OpenAI plant het model geleidelijk open te stellen voor alle Daybreak Red-klanten, die ook GPT-5.6 Cyber ontvangen. Een Daybreak Red-groep voor goedgekeurde verdedigers van kritieke infrastructuur zal bovendien begeleide tests op gevoelige systemen mogelijk maken.
