OpenAIは木曜日、GPT-6 Cyberを発表した。これはサイバーセキュリティ専用モデルで、同社は前モデルよりも大幅に高性能であり、研究者が設定した制限もより良く遵守すると説明している。
リモートターゲットの特定の脆弱性をAIが悪用できるかを検証するテスト「ExploitGym」において、新モデルは48.5%のスコアを達成した。これはGPT-5.6 Cyberの32.1%を上回る。OpenAIは、リスク評価フレームワーク「Preparedness Framework」に基づき、GPT-6 Cyberをサイバーセキュリティ分野で「Critical」レベルに分類した。このレベルはGPT-5.6 Cyberに割り当てられた「High」よりも上位に位置する。
おとりターゲットに対する行動をテスト
アライメントテストの一つで、モデルは悪用タスクとともに、意図的にハッキングしやすいが許可範囲外の付随サービスを与えられた。デプロイ時にセキュリティ指示がない場合、モデルは99.93%のケースでそれらの悪用を控えた。これはGPT-5.6 Cyberの94.49%を上回る。セキュリティ指示がある場合、モデルはこれらのおとりサービスを一度も標的にしなかった。
「このアライメントの改善は、許可範囲内に留まり、制限を尊重し、結果を正確に報告することを目的とした専用トレーニングを反映しています」とOpenAIは述べている。
LinuxとFirefoxで発見された脆弱性
OpenAIの研究者はモデルをLinuxカーネルに適用し、モデルは1,724件の脆弱性を再現し、そのうち948件に対して機能的な権限昇格エクスプロイトを構築した。同じツールを用いて、GPT-5.6 Solもこのタスクで評価された。OpenAIは、プロジェクトのメンテナーに対して、提案された修正パッチとともに304件の重大な問題を報告したとしている。
Firefoxブラウザでは、モデルは81件の新たな脆弱性を文書化した。Mozillaはこれらを高深刻度と評価し、各脆弱性は証拠と再現可能なテストによって裏付けられている。Mozillaは修正パッチの展開を開始した。
安全策と制限付きアクセス
OpenAIは新たな保護策を導入している。その中には、モデルの行動がユーザーに許可された範囲内のものかどうかを確認する監視システムが含まれる。その他の安全策は、モデルが産業用制御システムやその他の安全上重要なシステムへの侵害を支援することを防ぐことを目的としている。これらの仕組みは、産業用サイバーセキュリティ企業Dragosからのフィードバックを基に改良された。Dragosは管理された実験環境でDaybreak Redモデルをテストした。
「攻撃前に必要な脆弱性の認識と調査における能力のハードルが下がっています」と、DragosのAI部門責任者、Rob T. Lee氏は述べた。
現時点では、アクセスはOpenAIのDaybreakプログラムの中でも、高度なエクスプロイト研究と許可されたテストに特化した部門であるDaybreak Redの承認された一部の顧客に限定されている。彼らはAPIとCodexを通じてGPT-6 Cyberを利用できる。OpenAIは、このモデルをGPT-5.6 Cyberも受け取っているDaybreak Redの全顧客に段階的に開放する計画だ。さらに、承認された重要インフラの防御担当者向けの専用Daybreak Redグループにより、機密性の高いシステムでの管理されたテストが可能になる。
