Сэм Олтман, генеральный директор OpenAI, заявляет, что понимает разочарование математиков из-за потока результатов, производимых ИИ, но замедляться не намерен. Он также намекает, что у компании есть множество других открытий, которые она еще не обнародовала.
В эпизоде подкаста Cheeky Pint, вышедшем в четверг, он заявил: «В целом я считаю, что мир заслуживает понимания того, как устроена вселенная. Но я сочувствую методу». По его словам, право общества на новые научные знания «перевешивает» неудобство, вызванное анонсами OpenAI, хотя он признает, что компании нужно улучшить коммуникацию о своих результатах.
«Я категоричен в этом: человечество заслуживает фундаментальных знаний, и мы не должны держать крупное фундаментальное научное открытие при себе», — добавил он.
Математики, опрошенные The Verge, уже несколько месяцев критикуют способ, которым OpenAI анонсирует свои результаты, считая их недостаточно атрибутированными, плохо контекстуализированными и недостаточно проверенными. Затем им самим приходится проверять и расшифровывать эти работы. OpenAI опубликовала сотни математических результатов, часто сопровождаемых краткими заметками, которые исследователи описывают как плохо написанные и трудные для понимания.
Критика выбора публикаций
OpenAI сейчас критикуют именно за то, что, по словам Сэма Олтмана, она не должна делать: удерживать потенциально важные результаты. Математики и ученые, опрошенные The Verge на этой неделе, говорят о разочаровании из-за того, что они воспринимают как взятие исследований под контроль. Эта критика последовала за анонсом трех крупных прорывов в математике, физике и информатике.
Детали одного из этих результатов, связанного с теорией Янга — Миллса, составляющей математическую основу современной физики частиц, не были обнародованы. OpenAI объясняет это решение рекомендациями специально отобранной группы экспертов, которых консультировали о наилучшем способе его распространения. Эта практика прямо противоречит советам группы математиков, ранее консультировавших компанию, но, по словам OpenAI, она является частью нового подхода к коммуникации ее открытий.
Значительные ресурсы
На вопрос о существовании дополнительных доказательств помимо уже опубликованных сотен, Сэм Олтман ответил: «У нас они есть. Конечно». Он также признал, что поиск математических задач на некоторое время «вышел из-под контроля», что он представил как преднамеренный и необходимый шаг для проверки пределов своих моделей. Он описал внутренний канал Slack под названием «Model Name-Hold My Beer», где сотрудники «забрасывали этим самые сложные задачи, какие только могли найти», чтобы наблюдать за производительностью моделей.
Кроме того, Сэм Олтман считает, что OpenAI потратила порядка нескольких сотен миллионов долларов на решение математических задач. В частности, он упомянул около 10 миллионов долларов, «возможно, немного больше», потраченных на решение проблемы Навье — Стокса, одной из легендарных «проблем тысячелетия» в математике. Эти суммы дают представление о ресурсах, которые ИИ-лаборатории направляют на научные вопросы, и вызывают у некоторых исследователей опасения быть оттесненными из собственных областей.
Похоже, математикам и другим исследователям, надеявшимся на передышку, ее не видать.
