Liquid AIは、高速でプライベートなエージェントをデバイス上で直接動作させるために設計された、240億パラメータの推論モデル「LFM2.5-24B-A2B」を発表した。このモデルは、トークンごとに20億パラメータのみがアクティブになる。モデルは回答前に熟考し、ツールを呼び出し、最も一般的に使用されるエージェント環境内で多段階のタスクを連鎖的に実行する。オープンウェイト版はHugging Faceで入手可能。
このモデルは前身であるLFM2-24B-A2Bのアーキテクチャを踏襲しており、40層、MoEブロックごとに64人のエキスパート(mixture of experts、計算ごとにネットワークの一部のみが活性化されるアーキテクチャの一種)、トップ4ルーティングを採用している。コンテキストウィンドウは32Kトークンから131Kトークンに拡大され、非ラテン文字のトークン化を改善するため語彙は65Kトークンから128Kトークンに拡張された。LFM2-24B-A2Bとは異なり、LFM2.5-24B-A2Bは推論専用モデルであり、最終回答の前に明示的な思考の連鎖を生成する。
事前学習は約17Tトークンから約33Tトークンに拡張された。その後、推論、数学、コード、指示追従、多言語テキストを優先した、32Kコンテキストでの2Tトークンの中間学習、そして131Kコンテキストでの300Bトークンの学習が行われた。ファインチューニングにより、このベースモデルは5段階でエージェントへと変換される:教師ありファインチューニング(SFT)、「教師」モデルの専門化、非エージェントタスクとエージェントタスクそれぞれに対する2段階の方針蒸留(MOPD)、そして最後に、OpenClaw、Hermes Agent、Pi、OpenCodeなどのエージェント環境で実施されるエージェント強化学習である。
より大規模なモデルに対する発表された結果
Liquid AIは、自社のモデルをQwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightningと比較し、ツール使用、知識、指示追従、数学、コードをカバーする16のベンチマークで評価した。同社によると、LFM2.5-24B-A2Bはこのグループで最も小型でありながら、総パラメータ数とアクティブパラメータ数が約50%多いモデルに対しても競争力があるという。LiveClawでは48.09を獲得し、Qwen3.6-35B-A3Bの38.19を上回った。AutomationBenchでは27.69を達成し、表内の最強競合モデルの8.72を大きく上回った(発表された数字による)。また、IFEval(96.75)やIFBench(74.69)を含む3つの指示追従ベンチマークでも他のモデルをリードした。より大規模なモデルは、GPQA Diamond(Qwen3.6-35B-A3Bが83.69、LFM2.5-24B-A2Bは74.42)のように広範な知識を要求するテストや、コード関連(例:SWE-Bench Verified (OpenCode)でQwen3.6-35B-A3Bが66.20、LFM2.5-24B-A2Bは51.00)では依然として優位性を保っている。そのためLiquid AIは、知識集約的な用途では、このモデルを文書検索やWeb検索と組み合わせることを推奨している。評価はvLLMを使用し、各ベンチマークで推奨される生成パラメータに従って実施された。
ハードウェアパフォーマンスに関して、同社はApple M5 Maxで秒間184トークン、Ryzen AI Max+ 395で秒間114トークンを達成したと発表しており、これは次に速いモデルと比較して最大1.7倍高速で、かつ最も少ないメモリ消費量であるという。単一のNVIDIA B300 GPUでは、高い並列処理下で秒間最大21K出力トークンに達する。
このモデルはリリース時点で、llama.cpp、MLX、vLLM、SGLang、ONNXと互換性がある。エージェントと共に使用するには、OpenAI互換インターフェースの背後でローカルにサーバーを立て(例えばllama.cppとMLXではポート8080、vLLMではポート8000)、そのサーバーアドレスをエージェントに指定するだけでよい。
