OpenAI представила в четверг GPT-6 Cyber — модель, посвящённую кибербезопасности, которую компания описывает как значительно более эффективную, чем её предшественник. По словам OpenAI, она также лучше соблюдает ограничения, установленные исследователями.
На тесте ExploitGym, который проверяет, может ли ИИ эксплуатировать заданную уязвимость на удалённой цели, новая модель достигает 48,5 % против 32,1 % у GPT-5.6 Cyber. OpenAI относит GPT-6 Cyber к уровню «Critical» для кибербезопасности согласно своему Preparedness Framework, системе оценки рисков. Этот уровень находится выше «High», присвоенного GPT-5.6 Cyber.
Поведение проверялось на ложных целях
В одном из тестов на соответствие модель получала задачу по эксплуатации вместе с дополнительными сервисами, намеренно уязвимыми, но находящимися вне разрешённого периметра. Без инструкций по безопасности на момент развёртывания она воздерживалась от их эксплуатации в 99,93 % случаев против 94,49 % у GPT-5.6 Cyber. С такими инструкциями она никогда не атаковала эти ложные сервисы.
«Это улучшение соответствия отражает специальное обучение, направленное на соблюдение разрешённого периметра, уважение ограничений и точное отчётность о результатах», — указывает OpenAI.
Выявленные уязвимости в Linux и Firefox
Исследователи OpenAI применили модель к ядру Linux, где она воспроизвела 1724 уязвимости и создала рабочие эксплойты для повышения привилегий для 948 из них. GPT-5.6 Sol, протестированный с теми же инструментами, также оценивался на этой задаче. OpenAI сообщает, что уведомила сопровождающих проекта о 304 критических проблемах, предложив исправления.
В браузере Firefox модель задокументировала 81 новую уязвимость, которую Mozilla оценила как высокоопасную, каждая из них подкреплена доказательствами и воспроизводимыми тестами. Mozilla начала внедрять исправления.
Предохранители и ограниченный доступ
OpenAI внедряет новые меры защиты, включая систему мониторинга, которая проверяет, соответствуют ли действия модели разрешённым действиям пользователя. Другие предохранители должны помешать её моделям помогать в компрометации систем промышленного управления и других критически важных для безопасности систем. Эти механизмы были доработаны на основе отзывов компании Dragos, специализирующейся на промышленной кибербезопасности, которая тестировала модели Daybreak Red в контролируемой лаборатории.
«Порог компетенции для обнаружения и поиска уязвимостей, необходимых перед атакой, снижается», — заявил Роб Т. Ли, директор по ИИ в Dragos.
На данный момент доступ ограничен для некоторых одобренных клиентов Daybreak Red — направления программы Daybreak OpenAI, посвящённого продвинутой работе с эксплойтами и авторизованному тестированию. Они могут использовать GPT-6 Cyber через API и Codex. OpenAI планирует постепенно открыть модель всем клиентам Daybreak Red, которые также получают GPT-5.6 Cyber. Кроме того, специальная группа Daybreak Red для одобренных защитников критической инфраструктуры позволит проводить контролируемые тесты на чувствительных системах.
