U
技术突破

Ricursive发布65B开放权重代码模型

Ricursive Intelligence于2026年11月4日发布Ripple-65B Preview,这款65B稠密开放权重模型用12万亿tokens训练、支持最长100万上下文,在Terminal-Bench 2.1自报80.52分,并以Apache 2.0许可开放。

👁 7阅读 💬 0评论
📝 全文约 4039 字 · 预计阅读 10 分钟

2026年11月4日,Ricursive Intelligence发布Ripple-65B Preview,正式把一款面向智能体编码的65B稠密开放权重模型推向开发者。Ripple-65B并非在既有开源模型上简单微调,而是从零开始预训练,定位为Ricursive自有AI芯片设计平台背后专有模型的通用版本。此次发布最受关注的成绩是Terminal-Bench 2.1上的80.52分,按展示表格四舍五入为80.5分。Ricursive称,这是美国开放权重模型中自报的最高成绩;在该测试中被Ripple超过的MoE竞争模型,总参数量则达到501B至975B。

65B稠密模型为何受到关注

Ripple-65B的参数规模为65B,且65B参数全部处于激活状态;模型使用12万亿tokens完成预训练,最长支持100万上下文。官方给出的基础运行形态是数据中心GPU上的BF16版本,在批量大小为8时,使用两块B200可达到每秒250个tokens,且这一速度是在量化之前测得。Ricursive同时提供实验性的NVFP4检查点,目标是让模型能够运行在NVIDIA DGX Spark这一类本地设备上。

从定位来看,Ricursive并没有把Ripple包装成所有任务都领先的模型。团队称,它以自身规模实现了面向智能体编码的前沿级表现,但在知识类任务和科学编码任务上仍然落后于更大的MoE模型。在Ricursive自有的五模型对照表中,Terminal-Bench 2.1的80.5分是Ripple的最佳成绩,而SciCode的39.4分则是最低成绩,这一结果也直接暴露出模型能力分布并不均衡。

“Ripple-65B在自身规模上达到了面向智能体编码的前沿级表现,但在知识和科学编码任务上仍落后于更大的MoE模型。”——Ricursive团队发布材料中的模型定位

本次发布包含三个检查点:指令微调的BF16模型、NVFP4版本,以及BF16基座模型,三者均以Apache 2.0许可发布。Ripple的预训练语料是纯文本集合,主要由英语文本和代码构成,预训练序列长度为8K。Ricursive表示,完整研发成本为3200万美元,这笔投入覆盖梯度阶梯实验、数据混合、评测、合成数据构建以及最终训练运行;团队估计,这大约是此前开放权重智能体编码领先模型成本的十分之一。

从密集Transformer到训练配方

在架构选择上,Ricursive放弃了MoE路线,采用稠密Transformer,主要考虑是降低基础设施复杂度。训练期间模型达到40%的MFU,依靠简单分片完成训练,没有使用定制内核,也没有在训练阶段进行量化。模型采用“薄而深”的设计,d_model为5120,共80层。架构还从Olmo 3的类Llama布局转向类似Gemma 3N的设计,团队认为这一调整有助于稳定训练过程。

具体设计包括为推理增加过量配置的注意力头,同时通过增加滑动窗口层、缩小窗口大小来平衡成本;模型还使用门控注意力、全局NoPE和value residuals。前馈网络采用激活裁剪,这项技术同样出现在gpt-oss中。整个训练配方来自以Olmo 3 ladder为起点的梯度阶梯实验,Ricursive称,凡是在4B规模上无法稳定成立的改动都会被放弃,其中包括2-stream mHC。团队报告称,在4B规模实验中,这套方法带来了16倍的代码计算效率提升。

后训练聚焦智能体编码

Ripple-65B的后训练流程依次覆盖midtraining、长上下文训练、SFT、长上下文SFT以及混合RL。长上下文阶段使用了2M序列长度,超过模型对外提供的最长100万上下文窗口。Ricursive表示,团队没有购买后训练数据,而是自行搭建合成数据流水线,以便围绕代码执行、工具调用和智能体任务持续生成训练样本。

强化学习配方由截断重要性采样、分数中心化和线性长度惩罚组成。Ripple在使用140万次rollout后,获得了Terminal-Bench 2.1的80.5分。Ricursive将这一数量与Beam作对比:Beam曾报告使用超过1亿次rollout,Ripple的数量大约只有其七十分之一。这个差异是此次发布的重要背景,因为它不仅涉及最终分数,也涉及达到相近编码效果所需要的训练探索规模。

在Ricursive公布的评测中,Ripple在SWE-bench Pro v2.0 Hard上取得79.1分,是该表中的最高成绩;在SWE-bench Verified上为76.5分,低于Beam和Inkling。数学任务方面,Ripple在AIME 2025上得到98.3分,在2026年2月的HMMT上得到90.5分。相对薄弱的项目包括SciCode 39.4分、DeepSWE 1.1的44.3分、MCP Atlas的71.67分以及GPQA Diamond的85.2分。

基准成绩与更大模型的差距

部分缺失评测由Ricursive团队使用OpenCode在内部完成,SWE-bench Pro v2.0 Hard和DeepSWE 1.1则使用Terminus 2。Terminal-Bench 2.1的横向数据为:Ripple-65B 80.5分、Reflection Beam 80.1分、Meta Muse Spark Open 76.4分、Thinking Machines Inkling 63.8分、NVIDIA Nemotron 3 Ultra 56.4分。Ricursive还使用官方Terminus 2 harness、在128K上下文设置下重新运行Terminal-Bench 2.1,结果显示多数竞争模型分数下滑,Beam降至70.8分,而Muse Spark Open升至78.7分,仍低于Ripple的80.5分。

从参数对照看,Ripple-65B的总参数和激活参数均为65B,预训练规模为12T tokens;Reflection Beam分别为501B和23B,使用23.8T tokens;Meta Muse Spark Open为816B和42B,预训练tokens未披露;Thinking Machines Inkling为975B和41B,Ricursive表格列出的预训练规模为45T;NVIDIA Nemotron 3 Ultra为550B和55B,预训练规模约20T。五个模型的上下文上限都达到或接近1M,其中Beam的1M标注为midtraining上下文,Nemotron 3 Ultra则写为最高1M。

许可、输入模态和部署门槛也存在明显差异。Ripple、Beam和Inkling采用Apache 2.0,Muse Spark Open采用Muse Model License,Nemotron 3 Ultra采用OpenMDW-1.1。Ripple和Beam只接收文本输入,Muse Spark Open支持文本、图像、视频和音频,Inkling支持文本、图像和音频,Nemotron 3 Ultra支持文本。自托管方面,Ripple的NVFP4版本面向DGX Spark级别设备,Beam尚未披露门槛,Muse Spark Open约需700GB NVFP4显存,Inkling约需600GB NVFP4显存,Nemotron 3 Ultra则列出8块B200或16块H100的配置。

在其他横向分数上,SWE-bench Verified中Beam为80.9分、Ripple为76.5分、Inkling为77.6分、Nemotron 3 Ultra为70.7分,Meta没有披露Muse Spark Open的对应成绩。GPQA Diamond方面,Ripple为85.2分,Beam在其博客中未披露,Muse Spark Open为89.0分,Inkling为87.2分,Nemotron 3 Ultra为87.0分。Terminal-Bench、SWE-bench Verified和GPQA Diamond等Ripple成绩来自Ricursive模型卡,竞争模型成绩来自各自厂商公开材料,所有数字均属于自报数据,不能直接等同于统一第三方盲测结果。

开放方式与本地部署计划

Ripple的模型权重已经放在Hugging Face。发布时Ricursive列出的服务商包括Together AI、GMI Cloud和OpenRouter,Fireworks将在后续加入。需要注意的是,Together AI的页面在发布时仍将该模型标注为即将上线,因此开发者能否立即通过每个平台调用,仍取决于服务商的部署进度。除主模型外,Ricursive还列出了一个DFlash2变体,开发者可以通过发布博客、模型卡和NVFP4检查点进一步查看配置与权重信息。

在推理实现上,实验性NVFP4检查点只对MLP层进行量化,注意力部分保留BF16,以在显存占用和模型稳定性之间取得平衡。Ricursive将这一版本定位为面向DGX Spark等本地设备的尝试,而数据中心部署则继续以BF16为主要形态,已给出的性能参考是两块B200、批量大小8时每秒250个tokens。对于希望把代码智能体部署到企业内部或本地工作站的开发者而言,65B稠密架构和Apache 2.0许可,可能比更大MoE模型的总参数规模更具现实意义。

Ripple-65B的发布把开放权重模型竞争进一步推向两个方向:一方面,65B稠密模型以12T tokens、3200万美元研发投入和140万次RL rollout取得了80.5分,说明更小的激活规模仍可能在特定智能体编码任务中挑战数百B总参数的MoE模型;另一方面,SciCode、DeepSWE和MCP Atlas的成绩也表明,Terminal-Bench的领先并不代表通用能力全面领先。后续值得关注的是Fireworks等服务商的上线、DGX Spark上的真实运行体验,以及在统一评测和非自报数据下,Ripple能否保持与Beam、Muse Spark Open等模型的差距。

💬 评论