JS Denain, старший исследователь в Epoch AI и руководитель её команды Insights, считает, что текущих общедоступных данных недостаточно, чтобы утверждать о неминуемом ускорении прогресса в области ИИ. В интервью с Натаном Ламбертом он возвращается к неопределённостям, окружающим эту траекторию, и к разрыву между китайскими и американскими моделями.
Ускорение всё ещё под вопросом
Публикации от OpenAI и Anthropic исследуют влияние ИИ на собственный прогресс — динамику, называемую рекурсивным самоулучшением (RSI). Для JS Denain самым примечательным фактом в публикации OpenAI стал рост расходов исследователей на Codex, которые, согласно представленной кривой, увеличиваются в 2 раза в месяц. Однако он отмечает, что эта мера, возможно, касается только Codex, а не использования ChatGPT, и не является убедительным доказательством взрывного роста в области ПО в ближайшие шесть месяцев.
На вопрос о связи между RSI и экзистенциальным риском он заявляет о своей высокой неопределённости, но и о беспокойстве. Он ссылается на оценку Эвана Хубингера, согласно которой риск вымирания достиг бы как минимум 10% за неуточнённый период, и считает эту оценку разумной в десятилетней перспективе. По его словам, у него нет внутренней информации, которая оправдывала бы гораздо более сильное беспокойство.
Отставание от четырёх до восьми месяцев
JS Denain оценивает разрыв между лучшими китайскими лабораториями и OpenAI или Anthropic в четыре-восемь месяцев, сравнивая даты публичного выпуска. Он считает, что разрыв в два месяца был бы скорее следствием переобучения на тестах. Сам Натан Ламберт полагает, что такие модели, как Kimi K3 и GLM 5.2, были бы ближе — в два, три или четыре месяца.
Дистилляция, заключающаяся в обучении модели на ответах другой модели, может играть более важную роль, чем предполагалось. Denain считает, что если бы её остановили, разрыв увеличился бы примерно с шести месяцев до восьми или девяти в горизонте от шести до двенадцати месяцев. Натан Ламберт остаётся более сдержанным: по его мнению, без дистилляции разрыв был бы довольно близким, а разница в вычислительных мощностях имела бы большее значение.
Анализ вакансий, проведённый совместно с Шерил Ву и опубликованный в июне, также предполагает, что по крайней мере некоторые китайские лаборатории строят собственные дата-центры, а не арендуют вычислительные мощности.
Безопасность и данные
Натан Ламберт упоминает инцидент, в ходе которого три человека якобы использовали публичные модели Claude для доступа к внутренним системам OpenAI. JS Denain говорит, что кратко слышал об этом, но не знает, относится ли проблема к защитным механизмам моделей или к корпоративной безопасности. Он считает, что открытые модели менее защищены, но и менее мощны.
Наконец, Denain объясняет, что Epoch была создана потому, что ни индустрия, ни академическое сообщество не предлагали общедоступного и отслеживаемого ресурса по основным тенденциям в ИИ. Он отмечает, что данные для обучения остаются гораздо сложнее для отслеживания, чем вычислительные мощности, тогда как увеличение числа IPO могло бы улучшить доступную информацию.
