BotPsy:10億パラメータ未満のエージェント型言語モデルによるオンデバイスパーソナルアシスタント

BotPsy:10億パラメータ未満のエージェント型言語モデルによるオンデバイスパーソナルアシスタント
1 分の読書

Tether AI Researchは、関数呼び出しとエージェントワークフロー、すなわちモデルがツールを利用してタスクを遂行する能力に特化した設計の、8億パラメータモデル「BotPsy」を発表した。Qwen3.5-0.8Bをベースに構築され、ユーザーのデバイス上で直接動作することを想定している。

同社によれば、クラウドでホストされる大規模言語モデルは運用コストが高く、予期せぬ変動もあり得る。また、サードパーティのモデルに依存することはリスクを伴い、プロバイダーがアクセスを変更、制限、または撤回する可能性がある。Tether AI Researchは、あらゆるタスクが最高レベルの知性を必要とするわけではなく、特定のタスクにおいては、はるかに低コストで、小型の専門化されたエージェントが同等の性能を発揮し得ると考えている。

BotPsyは、Web検索、旅行、商取引・金融、デバイス・車両管理、ファイル操作、カレンダー、電子メールなどの分野で、ツールを用いてシンプルなタスクを実行できる「パーソナルアシスタント」として位置づけられている。そのサイズゆえ、主に低~中程度の難易度のタスクに適している。

自カテゴリーを上回ると発表された結果

同社が公開した結果によると、BotPsyは複数のテストにおいて、ベースモデルの約2倍のスコアを獲得している。BFCL v4では23.4から44.0へ、ACEBenchでは30.1から58.7へ、τ-benchでは23.2から51.5へと向上した。テストされた6つのエージェントベンチマークのうち5つで、2.5倍大きいモデルであるQwen3.5-2B-Thinkを上回った。Claw-Evalのみが例外で、48.9に対して46.5だった。

Tether AI Researchは安全性も強調している。6つのリスクカテゴリーを網羅した自動テストにおいて、BotPsyが危険な回答を生成した割合は21%で、ベースモデルの36%を下回った。これはテスト対象の12億パラメータ以下のモデルの中で最も低く、LFM2.5-1.2B-Thinkは35%、MiniCPM5-1B-Thinkは47%だった。推論に関しては、同社はBotPsyがベンチマークGPQA Diamondに正答するために使用するトークン数(モデルが処理するテキスト単位)が、ベースモデルに比べて約3分の1(3,690トークン対11,563トークン)であると報告している。

4段階のトレーニング手法

BotPsyは4段階の連続したプロセスでトレーニングされる。まずツール使用対話による教師あり学習を行い、次にマルチティーチャー蒸留、その後2回の強化学習を実施する。ここでの蒸留は、生徒モデルに回答を生成させながら、3つの専門分野を持つQwen3.5-4B教師モデルそれぞれから、トークンごとにフィードバックを受け取るというものだ。強化学習の段階では、人間の判断ではなく、ルールと検証器によって計算された報酬に基づいて学習が行われる。

制限事項と公開

Tether AI Researchは、BotPsyが依然として誤りを犯す可能性のある小型モデルであり、高リスクの自動意思決定や、金銭、個人情報、健康に関連するアプリケーションには向いていないと明記している。モデルは主に英語でトレーニングおよびテストされており、ヒンディー語(Multi-IFスコア24.5)やロシア語(同57.6)では性能が低下する。BotPsyは、研究および教育目的での使用を想定し、Apache 2.0ライセンスの下でオープンウェイトとして公開される予定で、bf16、Q8、Q4の3つの精度で提供される。

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x