LFM2.5-24B-A2B permite executar agentes privados e rápidos no dispositivo

LFM2.5-24B-A2B permite executar agentes privados e rápidos no dispositivo
3 min de leitura

A Liquid AI anuncia o LFM2.5-24B-A2B, um modelo de raciocínio de 24 mil milhões de parâmetros, dos quais apenas 2 mil milhões estão ativos em cada token, concebido para fazer funcionar agentes rápidos e privados diretamente num dispositivo. O modelo reflete antes de responder, chama ferramentas e encadeia tarefas em várias etapas nos ambientes de agentes mais utilizados. O seu peso aberto está disponível no Hugging Face.

O modelo retoma a arquitetura do seu predecessor, o LFM2-24B-A2B, com 40 camadas, 64 especialistas por bloco MoE (mixture of experts, um tipo de arquitetura em que apenas uma parte da rede é ativada em cada cálculo) e um encaminhamento top-4. A janela de contexto passa de 32K para 131K tokens, e o vocabulário é alargado de 65K para 128K tokens para melhor segmentar escritas não latinas. Ao contrário do LFM2-24B-A2B, o LFM2.5-24B-A2B é um modelo orientado apenas para o raciocínio, que produz uma cadeia de pensamento explícita antes da sua resposta final.

O pré-treinamento foi aumentado de cerca de 17T para cerca de 33T tokens. Segue-se um treino intermédio, com 2T tokens a 32K de contexto, privilegiando o raciocínio, a matemática, o código, o seguimento de instruções e os textos multilingues, e depois 300B tokens a 131K de contexto. A pós-formação transforma este modelo base num agente em cinco etapas: um ajuste fino supervisionado (SFT), a especialização de modelos ‘professores’, duas fases de destilação sobre política (MOPD) – uma em tarefas não agentivas, outra em tarefas agentivas – e, por fim, uma aprendizagem por reforço agentivo, realizada em ambientes de agentes como OpenClaw, Hermes Agent, Pi e OpenCode.

Resultados anunciados face a modelos maiores

A Liquid AI comparou o seu modelo com o Qwen3.6-35B-A3B, o Gemma-4-26B-A4B-it e o Nemotron-3.5-Lightning em 16 benchmarks que abrangem o uso de ferramentas, conhecimentos, seguimento de instruções, matemática e código. Segundo a empresa, o LFM2.5-24B-A2B é o mais pequeno do grupo, mantendo-se competitivo face a modelos com cerca de 50% mais parâmetros totais e ativos. No LiveClaw, obtém 48,09 contra 38,19 do Qwen3.6-35B-A3B. No AutomationBench, atinge 27,69, contra 8,72 do melhor concorrente da tabela, de acordo com os números publicados. Também supera os outros modelos nos três benchmarks de seguimento de instruções, incluindo o IFEval (96,75) e o IFBench (74,69). Os modelos maiores mantêm a vantagem nos testes que exigem conhecimentos amplos, como o GPQA Diamond, onde o Qwen3.6-35B-A3B apresenta 83,69 contra 74,42, e também no código, por exemplo no SWE-Bench Verified (OpenCode), onde obtém 66,20 contra 51,00. A Liquid AI recomenda, portanto, acoplar este modelo a uma pesquisa documental ou a uma pesquisa web para usos com forte componente de conhecimentos. As avaliações foram realizadas com vLLM, de acordo com os parâmetros de geração recomendados para cada benchmark.

Em termos de desempenho de hardware, a empresa indica 184 tokens por segundo num Apple M5 Max e 114 tokens por segundo num Ryzen AI Max+ 395, ou seja, até 1,7 vezes mais rápido do que o modelo seguinte, consumindo a menor quantidade de memória. Num único GPU NVIDIA B300, o modelo atinge até 21K tokens de saída por segundo com elevada concorrência.

O modelo é compatível desde o seu lançamento com llama.cpp, MLX, vLLM, SGLang e ONNX. Para o utilizar com um agente, basta servi-lo localmente atrás de uma interface compatível com OpenAI e, em seguida, indicar o endereço desse servidor no agente, por exemplo na porta 8080 para llama.cpp e MLX, ou 8000 para vLLM.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x