В блоге исследователь ИИ объясняет, почему инженерия моделей должна ускориться в ближайшие годы, не меняя при этом их сути. По его мнению, через несколько лет модели станут сверхчеловеческими инженерами GPU, способными значительно облегчить экспериментирование. Он также считает, что несколько направлений, таких как эффективность вычислений и качество сред обучения с подкреплением, сулят достижимый прогресс.
Исследования становятся все проще
Автор отмечает, что исследователи из индустрии часто говорят ему, что ИИ будет справляться с их работой лучше них через несколько лет. Он связывает это ускорение с растущими способностями моделей в области инфраструктуры и инженерии, с чем согласен. Однако он добавляет, что этот прогресс не сделает модели радикально иными по своей природе.
По его словам, Илья в некотором смысле преждевременно объявил о наступлении эры исследований в области ИИ. Сегодня исследования стали намного проще благодаря агентам программирования — инструментам, способным автономно писать и изменять код. В тексте это рассматривается как начало периода, когда хорошие идеи могут стоить больше, чем качественная программная реализация.
Автор напоминает, что баланс между исследованиями и инженерией уже смещался в прошлом. До расцвета глубокого обучения ИИ был в основном областью исследований. Сегодня лучших исследователей оценивают по их способности реализовывать и масштабировать свои идеи в сложных инфраструктурах. Он говорит об ускорении «на несколько лет», в течение которых узким местом будет становиться все меньше инженерия.
Эффективность и стоимость интеллекта
Большую часть этапов обучения и вывода, то есть использования модели для получения ответа, можно точно измерить. В тексте приводятся такие показатели, как количество токенов, обрабатываемых в секунду на GPU, количество токенов на запрос, FLOPs на токен или стоимость ответа. Автор считает, что эти показатели можно значительно оптимизировать и что агенты ИИ могут помочь улучшить весь процесс в течение нескольких лет.
По словам автора, выигрыш в эффективности уже был значительным: например, экономия «порядка 10–30 %» на стоимости обслуживания модели после объявления ее по определенной цене. Он ожидает, что фактическая стоимость интеллекта моделей будет снижаться почти экспоненциально, потенциально быстрее, чем в последнее время. Он также прогнозирует, что совместное проектирование ускорителей и моделей принесет дополнительные выгоды в более долгосрочной перспективе.
В тексте также утверждается, что парадокс Джевонса, согласно которому рост эффективности может увеличить спрос, должен в полной мере проявиться для агентских моделей. Автор приводит в пример агента Muse от Meta как ранний признак этого тренда и прогнозирует больше подобных экспериментов для разных аудиторий.
Данные и среды обучения
Наконец, в тексте упоминается рынок данных для обучения с подкреплением — этих сред, где модель учится методом проб и вознаграждений. Несколько компаний в этом секторе якобы перешагнули порог в «100 миллионов долларов» или «1 миллиард долларов» выручки, что, по мнению автора, больше, чем он предполагал. Однако он отмечает, что среднее качество этих продуктов «заметно низкое» и многие исследователи считают часть покупаемого ими контента некачественным.
Тем не менее, как отмечается в тексте, крупные лаборатории получают от этих покупок четкую отдачу. По мнению автора, слабость многих сред явно можно исправить.
