OpenAI вывела из публичной бета-версии свой API Decisions, представленный на DevDay компании 29 сентября. Разработанный для приложений и агентов, принимающих множество мелких решений, он не генерирует текст, а возвращает типизированный ответ, занимая нишу так называемых моделей принятия решений.
API, который решает, а не пишет
OpenAI исходит из наблюдения, которое она резюмирует так: «Приложения и агенты принимают множество мелких решений в рамках рабочего процесса. По отдельности они просты. В масштабе их задержка и стоимость суммируются». Работа модели принятия решений остается простой: разработчик формулирует вопрос, определяет допустимые ответы и предоставляет контекст в виде текста или изображений. Затем API возвращает ответ в одном из трех форматов, который приложение использует для запуска следующего шага.
Формат Predicate дает вероятность (от 0 до 1) истинности условия, например, наличия видимых повреждений на фотографии товара. Формат Choice выбирает вариант из списка, заданного разработчиком, с указанием вероятностей и уровня уверенности. Наконец, формат Score присваивает оценку по упорядоченной шкале уровней, например, степень серьезности повреждения.
Теперь один запрос может объединять до 400 вопросов, что вдвое больше, чем в бета-версии. Все они касаются одного и того же контента и оцениваются независимо, поэтому вопрос, зависящий от другого ответа, требует отдельного запроса. С технической стороны OpenAI не обучала специальную модель: API использует GPT-6 Luna, переконфигурированную для ускорения вывода (инференса), то есть обработки запроса моделью. По словам компании, он концентрирует «интеллект Luna на вопросах с ограниченными ответами» и принимает решения до 10 раз быстрее, чем Luna, при запросе через API Responses.
JSON, кэширование и голос в финальной версии
С момента бета-версии API поддерживает входные данные в нативном JSON (формат структурированных данных), а также изображения, встроенные в инструкции вопроса. Prompt caching повторно использует общую часть запроса, например, справочный документ. Обработка вывода теперь может выполняться в США или Европейском союзе, дополняя опцию Zero Data Retention, доступную для подходящих клиентов. API также нативно интегрируется с GPT-Live, моделью OpenAI для голосовых разговоров: так, агент поддержки клиентов во время разговора может решить задать уточняющий вопрос или передать запрос человеку.
Что касается цен, API Decisions стоит 0,10 $ за миллион входных токенов и 0,01 $ за миллион токенов в кэше. Выходные токены не тарифицируются. Запись в кэш на срок 30 минут или 12 часов оплачивается отдельно, а региональная обработка может привести к дополнительной плате.
Принцип, близкий к Jev
Работа напоминает Jev, модель принятия решений стартапа TypeSafe AI. Присутствуют те же три типа вопросов: «predicate» OpenAI соответствует «Noul» Jev, а также тарификация только за входные токены. Однако подход отличается: TypeSafe AI разработала специальную архитектуру и метод обучения, тогда как OpenAI адаптирует существующую языковую модель. API Decisions также более чем вдвое дороже Jev, который при запуске стоил 0,042 $ за миллион входных токенов. Поддержка изображений, впрочем, больше не отличает два предложения, так как TypeSafe AI добавила ее в Jev в последней версии.
Согласно двум независимым рейтингам, посвященным моделям принятия решений — AIM System One Index и Artificial Analysis Decision Index, — модель OpenAI занимает место позади Jev, при этом обе доминируются D1 Ultra от Liquid и Elephant-1 от Base Lab. OpenAI предлагает протестировать свой API на примерах из реальных сценариев использования в Decisions Playground и предоставляет необходимую документацию для разработчиков.
