Epoch AIのシニアリサーチャーでありInsightsチームの責任者を務めるJS Denainは、現在の公開データだけではAIの進歩が差し迫って加速することを確立するには不十分だと見ている。Nathan Lambertとのインタビューで、彼はこの進展軌道をめぐる不確実性と、中国モデルと米国モデルの間の格差について語った。
まだ不確かな加速
OpenAIとAnthropicが公開したブログ記事は、AIが自らの進歩に与える影響、すなわち再帰的自己改良（RSI）と呼ばれる動態を検証している。JS Denainによれば、OpenAIの記事で最も注目すべき事実は、研究者のCodex支出の増加であり、提示された曲線によれば月ごとに2倍に増加しているという。しかし彼は、この測定はおそらくCodexのみを対象としておりChatGPTの使用は含まれていない可能性があり、今後6ヶ月以内にソフトウェア爆発が起こる確固たる証拠とはならないと指摘する。
RSIと実存的リスクの関連性について問われると、彼は非常に不確かではあるが懸念を抱いていると述べた。彼はEvan Hubingerの推定を引用し、未指定の期間において絶滅リスクは少なくとも10％に達する可能性があり、この推定は10年スパンでは妥当だと判断している。彼によれば、はるかに強い懸念を正当化する内部情報は持っていないという。
4〜8ヶ月の遅れ
JS Denainは、公開日を比較することで、中国の最高の研究所とOpenAIまたはAnthropicとの格差を4〜8ヶ月と位置づけている。2ヶ月の格差は、むしろテストへの過剰適合によるものだろうと彼は考えている。一方、Nathan Lambertは、Kimi K3やGLM 5.2のようなモデルは、2、3、4ヶ月とより近いだろうと判断している。
あるモデルの回答から別のモデルを訓練する蒸留は、予想以上に重要な役割を果たす可能性がある。Denainは、もし蒸留が止められれば、6〜12ヶ月の期間において、格差は約6ヶ月から8〜9ヶ月に広がると見積もっている。Nathan Lambertはより慎重で、蒸留がなければ格差はかなり近くなり、計算能力の差がより重くのしかかると考えている。
Cheryl Wuと共同で実施され6月に公開された求人分析はさらに、少なくとも一部の中国の研究所が計算リソースを賃貸するのではなく、独自のデータセンターを構築していることを示唆している。
セキュリティとデータ
Nathan Lambertは、3人の人物が公開されたClaudeモデルを使用してOpenAIの内部システムにアクセスしたとされる事件について言及した。JS Denainは、この問題を一時期認識していたが、それがモデルのガードレールの問題なのか企業のセキュリティの問題なのかはわからないと述べた。彼は、オープンモデルは保護が弱いが、同時に能力も低いと判断している。
最後に、Denainは、産業界も学界もAIの大きなトレンドに関する公開され継続的に追跡可能なリソースを提供していなかったため、Epochが設立されたと説明した。彼は、上場企業が増えることで利用可能な情報は改善されるかもしれないが、訓練データの追跡は計算能力の追跡よりも依然としてはるかに難しいと指摘している。
