The AI / news

Samaya AI выпустила Sterling — 3B-агентную модель для финансовых исследований, которая превосходит Claude Fable 5.1 на FrontierFinance при 11-кратно меньшей стоимости

Samaya AI выпустила Sterling — 3B-агентную модель для финансовых исследований, которая превосходит Claude Fable 5.1 на FrontierFinance при 11-кратно меньшей стоимости
3 min de lecture

Samaya AI представила Samaya Sterling, дообученную модель для агентных финансовых исследований, способную самостоятельно выполнять цепочки исследовательских шагов и вызовов инструментов. По данным компании, она набирает 58,9 % на бенчмарке FrontierFinance против 55,9 % у Claude Fable 5.1, при стоимости за вопрос 0,61 доллара против 6,89 долларов.

Sterling основана на NVIDIA Nemotron 3.5 Lightning, 30B-параметрической модели со смесью экспертов (MoE, архитектура, активирующая лишь часть параметров на запрос). Активны только 3B параметров. Как сообщила Майтра Рагху в X, проект начался с усилий двух человек по повышению эффективности агентной оркестровки.

Адаптированная обвязка для небольшой модели

Обвязка, это набор инструкций, инструментов и механизмов, обрамляющих модель. Samaya адаптировала свою производственную финансовую обвязку под эту меньшую модель. Детальные указания были убраны из системного промпта и описаний инструментов, а некоторые инструменты объединены для сокращения промпта. Две вспомогательные модели управляют контекстом: конденсор укорачивает длинные результаты инструментов, а компактор суммирует растущую рабочую трассу.

Исследовательский бюджет ограничивает время работы агента. Затем составитель отчёта отвечает на основе найденных материалов.

Обучение в четыре этапа

Обучение использовало технику LoRA, слегка адаптирующую существующую модель, на Tinker, API для обучения от Thinking Machines Lab. Первый этап, контролируемая тонкая настройка (SFT) на 968 синтетических аналитических вопросах. Учитель, Kimi K3, дал два ответа на каждый вопрос, и LLM-судья выбрал лучший. Модель научилась вызывать 37 инструментов с валидными аргументами.

Второй этап использует 1 819 вопросов, написанных экспертами, обработанных восемью исследовательскими стратегиями. Лучший ответ на вопрос стал обучающими данными, после фильтрации оставлено 1 157 вопросов. По словам Samaya, эта выборка покрывает 80 % ключевых критериев сетки против ~66 % у лучшей отдельной стратегии. Третий и четвёртый этапы, два раунда обучения с подкреплением методом GRPO: первый, офлайн, сравнивает восемь ответов учителя между собой, второй, онлайн, заставляет модель отвечать на каждый вопрос восемь раз.

Самоотчётные результаты на FrontierFinance

Бенчмарк FrontierFinance включает 220 публичных запросов, оцениваемых по сеткам, составленным экспертами, с помощью панели из трёх моделей-судей. Samaya заявляет, что ни один вопрос бенчмарка не использовался при обучении, а контрольные точки выбирались на 100 внутренних валидационных вопросах.

Sterling достигает 58,9 % за 282 секунды на вопрос против 268 секунд у Claude Fable 5.1. Система Samaya в режиме « high effort » набирает 56,0 % при 1,81 доллара за вопрос. Результат растёт на каждом этапе: с 42,5 % у базовой модели до 51,4 %, 54,8 %, 57,5 % и затем 58,9 %. Медианное число вызовов инструментов увеличивается с 3 до 17. На самой сложной трети вопросов результат вырос с 31,8 % до 45,2 %. В режиме « high effort » Sterling достигает 60,6 % за 1,83 доллара и 372 секунды. Сама модель стоит 0,04 доллара за вопрос, остальная стоимость, инструменты и вспомогательные модели. Базовая модель, по данным источника, помещается на один GPU H100 80 ГБ в BF16 с контекстом 256K токенов. Её контекстное окно может достигать 1M токенов. Samaya не раскрывает контекстное окно или оборудование для обслуживания Sterling, а также не анонсировала публичные веса или API для этой модели. Все результаты самоотчётные и опубликованы на бенчмарке Samaya.