Google、Gemini 4 Carbonを発表：最強モデルはまずサイバー防衛に限定

長時間タスクと包括的サイバー防衛

Google DeepMindは、Gemini 4 Carbonを、長期間にわたるエージェント的ワークフロー、すなわちモデル自身が複雑な工学上の問題に対して多数のステップを踏んで実行する一連のアクションのために設計した。ブログ記事で同社は、モデルが同じタスクに数日間取り組み、行き詰まっても粘り強く続ける様子を観察したと述べている。Googleによれば、その成果は「フルスタックWeb開発、マルチモーダル理解、科学的タスク」においても向上しているという。

サイバーセキュリティ分野において、同社はCarbonがシステム防衛の全段階をカバーするようになったと主張する。既存ソフトウェア内の複雑な脆弱性を含む脆弱性の検出、優先的に修正すべき脆弱性を判断するためにその悪用可能性を検証するバリデーション、そして特定された脆弱性の根本原因に対処するコードによる修正だ。Googleはまた、Argonと比較して安全なコード生成において明確な進歩があった点も強調している。

Argonから引き継がれた安全策と、より慎重なモデル

Carbonは、リアルタイムでの悪用検出から、回答前に生成する中間推論である思考連鎖の監視まで、Argonのために導入された保護策を引き継いでいる。Googleは、アライメント（価値観の一致）においてさらに進歩し、複雑なタスクやプレッシャー下でのタスクに対してより適切に振る舞うようモデルを訓練したと述べている。

同社の内部テストによると、Carbonは根拠のない主張をArgonの約半分の頻度でしか行わない。情報が不足している場合、成果物の中でその旨を明示するか、追加で必要な項目をリストアップする。曖昧な要求に対しては、関連する情報源を探し、行動する前に矛盾点をユーザーに提示する。さらにGoogleは、生成コードの品質を低下させることなく、タスクを達成するためにルールを回避しようとする試みが大幅に減少したと指摘している。処理されるデータに隠された悪意のある指示である間接的プロンプトインジェクションに特化したGray Swanのベンチマークでは、テストされた攻撃はすべて失敗に終わった。Argonですら成功率は非常に低かったが、それよりも改善されている。

限定されたアクセスと公開スケジュールの不在

Googleは、10月初旬のArgon発表時に続いた手法を踏襲する。現時点では、Carbonはサイバー防衛分野の一部の関係者のみに提供され、その後、Fairwindプログラムの枠組みで信頼できる他のパートナーに段階的に開放される予定だ。この慎重な姿勢は、部分的にはモデルの特性による。脆弱性が悪用可能かどうかを検証できるツールは、その脆弱性を悪用するためにも使える可能性があるからだ。加えて、Googleは米国政府が自主参加を呼びかけている、モデル公開前のテスト体制にも参加している。

同社は、開発者、企業、一般ユーザーにCarbonを開放する前に、フィードバックを収集し安全策を調整したいとしている。具体的な日程は示されていない。ただし、Argonの発表から一般公開まで2週間しかかからなかったことを考慮すると、同様のスピード感が期待される。

価格面では、Gemini 4 CarbonはArgonと同じ導入価格で開始される。入力100万トークンあたり2ドル、出力100万トークンあたり10ドルだ。トークンとはモデルが処理するテキストの単位である。キャッシュされた入力トークンには95%の割引が適用される。Googleが期間を明示していない導入期間終了後は、価格は入力4ドル、出力20ドルに変更される。