The AI / news

BotPsy : персональный помощник на устройстве с агентной языковой моделью менее чем в миллиард параметров

BotPsy : персональный помощник на устройстве с агентной языковой моделью менее чем в миллиард параметров
3 мин чтения

Tether AI Research представляет BotPsy — модель на 0,8 млрд параметров, созданную для вызова функций и агентных рабочих процессов, то есть способности модели использовать инструменты для выполнения задачи. Построенная на основе Qwen3.5-0.8B, она предназначена для работы непосредственно на устройстве пользователя.

По мнению компании, крупные модели, размещенные в облаке, ведут к высоким эксплуатационным расходам, которые могут непредсказуемо меняться. Зависимость от таких сторонних моделей также сопряжена с рисками, поскольку их поставщики могут в любой момент изменить, ограничить или прекратить доступ. Tether AI Research считает, что не все задачи требуют максимального уровня интеллекта, и что небольшие специализированные агенты могут быть столь же эффективны в конкретных задачах при значительно меньших затратах.

BotPsy позиционируется как «персональный помощник», способный выполнять простые задачи с помощью инструментов в таких областях, как веб-поиск, путешествия, коммерция и финансы, управление устройством и автомобилем, файлами, календарем или электронной почтой. Из-за своего размера он лучше всего подходит для задач низкой и средней сложности.

Заявленные результаты превосходят свою категорию

Согласно опубликованным компанией результатам, BotPsy показывает примерно вдвое более высокие баллы по сравнению со своей базовой моделью в нескольких тестах. На BFCL v4 он поднимается с 23,4 до 44,0, на ACEBench — с 30,1 до 58,7, а на τ-bench — с 23,2 до 51,5. Он опережает Qwen3.5-2B-Think, модель в 2,5 раза больше, в пяти из шести протестированных агентных бенчмарков. Лишь в Claw-Eval он уступает с результатом 48,9 против 46,5.

Tether AI Research также подчеркивает безопасность. В автоматизированных тестах, охватывающих шесть категорий рисков, BotPsy выдает опасные ответы в 21% случаев против 36% у своей базовой модели. Это самый низкий показатель среди протестированных моделей с 1,2 млрд параметров или меньше, где LFM2.5-1.2B-Think достигает 35%, а MiniCPM5-1B-Think — 47%. В рассуждениях компания указывает, что BotPsy использует примерно в три раза меньше токенов (единиц текста, обрабатываемых моделью), чем его базовая модель, для правильного ответа на бенчмарк GPQA Diamond: 3690 токенов против 11 563.

Четырехэтапный метод обучения

Обучение BotPsy проходит в четыре последовательных этапа: начиная с обучения с учителем на диалогах использования инструментов, затем многопреподавательской дистилляции, перед двумя сериями обучения с подкреплением. Дистилляция здесь заключается в том, что модель-ученик генерирует ответы, получая токен за токеном обратную связь от трех моделей-учителей Qwen3.5-4B, каждая из которых специализируется в определенной области. Этапы обучения с подкреплением основаны на вознаграждениях, вычисляемых по правилам и верификаторам, а не на человеческих оценках.

Ограничения и публикация

Tether AI Research уточняет, что BotPsy остается небольшой моделью, допускающей ошибки, и не предназначен для автоматизированных решений с высокими ставками, а также для приложений, связанных с деньгами, личной информацией или здоровьем. Модель в основном обучалась и тестировалась на английском языке. Ее производительность падает на хинди (оценка 24,5 на Multi-IF) и на русском (57,6). BotPsy будет опубликован с открытыми весами под лицензией Apache 2.0 для исследовательского и образовательного использования в трех вариантах точности: bf16, Q8 и Q4.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x