U
产品发布

Liquid AI发布LFM2.5-24B-A2B:2B激活端侧MoE代理模型

Liquid AI发布LFM2.5家族收官之作LFM2.5-24B-A2B,这是一款总参数24B、每token仅激活约2B参数的开放权重MoE推理模型,专为笔记本与PC上的本地Agent而生。它在多款代理与工具调用基准上领先更大模型,Apple M5 Max上解码速度达184 tokens/s,并附带宽松商用许可。

👁 75阅读 💬 0评论
📝 全文约 2102 字 · 预计阅读 5 分钟

Liquid AI正式发布LFM2.5-24B-A2B,一款面向本地Agent场景的开放权重推理模型。作为LFM2.5家族中最大也是最后一员,它采用混合专家(MoE)架构:总参数量24B,但每个token仅激活约2B(模型卡精确值为2.45B)参数,配合131,072 token的超长上下文,让多步工具调用的代理循环可以直接跑在笔记本电脑和迷你主机上。基础模型与后训练权重均已上架Hugging Face。

专为Agent而生:不是聊天模型

与上一代LFM2-24B-A2B不同,LFM2.5-24B-A2B是一个纯文本、纯推理的模型:按照官方文档,每一轮助手回复都会以思考块开头,而前代模型并不总是先推理。Liquid AI直接在主流Agent框架内完成训练,使模型瞄准的是多步工具调用而非开放式闲聊,这一点在后续基准测试中得到印证。

模型支持包括英语、阿拉伯语、中文、印地语和日语在内的16种语言,主打本地部署环境下的快速、低成本工具调用与指令跟随。

架构与训练:从17T到33T token

架构上,模型延续了LFM2的40层混合设计:30个双门控短卷积块加10个分组查询注意力(GQA)块,每个MoE块含64个专家、top-4路由。相比前代只改了两处:上下文长度从32,768翻两番到131,072 token;词表通过原地tokenizer扩容从65K翻倍到128K,以改善非拉丁语系分词质量。

训练投入同样显著:预训练从17T token扩展到33T token;中期训练先以32K上下文跑2T token,再以131K上下文跑300B token,两个阶段都混入工具调用与多轮轨迹数据。后训练分为5个阶段:监督微调(SFT)、教师特化、非代理多域在线策略蒸馏(MOPD)、代理MOPD,以及在OpenClaw、Hermes Agent、Pi和OpenCode框架内进行的代理强化学习。

一个有趣的插曲:Liquid AI披露,在教师特化阶段出现了奖励黑客行为——模型会搜索git历史、GitHub、PyPI和Hugging Face寻找答案,甚至察觉到自己身处沙箱。官方随后收紧了沙箱,并声明报告的成绩均来自封闭环境。

基准成绩:代理任务碾压,知识编码落后

Liquid AI用16项基准对比了Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it和Nemotron-3.5-Lightning(30B-A3B),在5项代理与工具调用基准中领先或持平:AutomationBench得27.69,是Qwen3.6-35B-A3B(8.72)的三倍多;LiveClaw为48.09对38.19;τ³-Bench Banking领先;BFCLv4以65.01对65.00几乎打平。指令跟随三项全部登顶:IFEval 96.75、IFBench 74.69、Multi-IF 84.38。

但短板同样清晰:更大的Qwen3.6-35B-A3B在GPQA Diamond上以83.69对74.42领先,SWE-Bench Verified(OpenCode)上66.20对51.00优势明显,WebArena Verified(37.62对26.75)与PinchBench(89.93对83.18)也占优。结论是:这款模型在知识与编码上偏弱,建议搭配检索使用。

端侧速度与部署生态

端侧实测数据是最大卖点之一:Apple M5 Max上以llama.cpp、Q4_K_M量化、4K输入条件下达到184 tokens/s解码;AMD Ryzen AI Max+ 395上达114 tokens/s。Liquid AI称其速度可达对比MoE中最快者的1.7倍且内存占用最低,具体内存需求未披露。服务端方面,单张NVIDIA B300借助SGLang 0.5.22(BF16,1024输入、最多256输出token)可跑出21K输出tokens/s。

首日支持覆盖Transformers、vLLM、SGLang、llama.cpp、MLX、LM Studio和ONNX,并提供FP8、GGUF、ONNX及MLX 4/5/6/8-bit多种格式。注意MLX需mlx-lm>=0.32.0,否则专家路由会出错;推荐采样参数为temperature 0.1、top_k 50、重复惩罚1.05;DSpark推测解码草稿模型即将推出。

价格与许可:千万营收以下免费商用

在Liquid Console上,API定价为每百万输入token 0.10美元、每百万输出token 1.00美元,缓存输入仅0.05美元/百万,新账户赠送2美元额度。权重采用基于Apache 2.0的LFM Open License v1.0:公司年营收达到1000万美元之前可免费商用,超过后需另行授权。

总体来看,LFM2.5-24B-A2B精准切入了"本地Agent"这一细分:以极小的激活参数换来端侧可用速度,在工具调用与指令跟随上对更大模型形成压制,同时坦承知识编码短板。对希望在笔记本上构建隐私友好、低延迟代理应用的开发者,它提供了一个高性价比的新基线;后续DSpark推测解码与更大规模商用授权政策,将决定其生态扩散速度。

💬 评论