英伟达开源120B多模态Agent模型Nemotron 3.5 Super VL

英伟达正式发布开源视觉语言模型 Nemotron 3.5 Super VL，一款专为全天候企业级智能体打造的多模态 Agent 模型。它采用混合专家（MoE）架构，总参数量 120B，每个 token 仅激活 12B 参数。一个模型即可读取文本、图像、文档和视频，并完成推理、工具调用与代码编写，开发者用这一个开放检查点就能替代原本分开部署的文本模型加视觉模型。与主模型同步，英伟达还推出了两款边缘端模型：Nemotron 3.5 Bolt 74B-A9B 与 Bolt E4B。

开放策略：权重、数据与训练配方全部开源

Nemotron 3.5 Super VL 的权重以 OpenMDW-1.1 许可证发布，这在主流大厂的开源动作中相当彻底。除权重外，英伟达还同步开放了训练数据集、训练配方以及 NeMo Gym 中的强化学习环境，试图为社区提供可复现的完整链条。

模型卡显示，该模型支持文本、图像与视频输入，输出为文本；视频输入限于最长 2 分钟的 MP4 片段。推理模式可通过聊天模板中的开关随时启用或关闭，方便开发者在深度思考与低延迟响应之间切换。

混合架构与四项加速技术

架构上，模型主干交错了 Mamba-2、混合专家与注意力层，每个 MoE 层包含 512 个路由专家。视觉侧由 C-RADIO 视觉编码器和连接器将图像、文档页面与视频帧转换为语言主干可处理的表示。模型由 Nemotron 3 Ultra 蒸馏而来，预训练使用了约 26 万亿 token，后训练阶段使用约 380 万样本，并在数十个环境中进行强化学习，此外还追加了 100 亿 Indic 语系 token 的继续预训练。

速度来自四项技术：原生多 token 预测（MTP）由原生起草器一次性提出多个 token 并在单次前向传播中验证；针对 DGX Spark 的 LiLiCorr 投机起草器可将 token 生成速度提升至多 2.3 倍；NVFP4 量化感知蒸馏在 Blackwell 上实现 4-bit 权重与激活，在其他平台则为 4-bit 权重加 16-bit 激活；上下文复用则通过前缀缓存在多轮 Agent 对话间同时保留注意力缓存与 Mamba 状态。

基准表现：推理与编码强项突出

以下均为英伟达报告的 NVFP4 检查点成绩：GPQA-Diamond 推理 89.90，SWE-bench Verified 71.07，Terminal-Bench 2.1 为 60.80，网页智能体 BrowseComp 77.5，指令遵循 IFBench 71.50，图表推理 CharXiv 79.88，文档理解 MMLongBench-Doc 62.82，计算机操作 OSWorld-Verified 52.3；最弱项是长程智能体基准 tau3-bench banking，仅 17.78。

在智能体评测框架下，Super VL 超越了其教师模型 Nemotron 3 Ultra：Hermes Bench 上得分 63.44% 对 56.33%，LangChain 评测 87.05% 对 84.3%，而 Ultra 的总参数量约为其 4.6 倍。BF16 检查点的成绩与 NVFP4 大体相当，部分项目（如 Terminal-Bench 2.1 的 66.70）甚至更高。

部署灵活性与吞吐对比

部署门槛明显降低：NVFP4 检查点下，单台 DGX Spark、单卡 H200、两卡 H100 或单卡 GB200 即可运行，同时支持最高 100 万 token 的上下文窗口。DGX Spark 上基于 vLLM 配合 LiLiCorr 起草器，H200 与 2x H100 配置使用 MTP 3，GB200 则可用 MTP 5，完整启动命令见 Hugging Face 模型卡。

吞吐方面，英伟达称其单 GPU 吞吐量较开放同类模型最高提升 5 倍，并通过 Baseten 端点在 Artificial Analysis 智能体任务上报告了超过每秒 600 个输出 token 的成绩。对比图表中，Super VL 与 Qwen3.5-122B-A10B、Inkling-Small 同场竞技：GPQA Diamond 上 89.90 领先两者（86.6 与 89.5），SWE-bench Verified 的 71.07 则略低于 Inkling-Small 的 80.2，IFBench 上 71.50 亦不及两者的 76.1 与 82.2。需要说明的是，这些均为厂商自报数据，且各评测框架存在差异——例如 Inkling-Small 的 SWE-bench 采用仅限 bash 的测试框架。

总体来看，Nemotron 3.5 Super VL 以 120B 总参、12B 激活的 MoE 设计和从权重到 RL 环境的全栈开放，试图在开源多模态 Agent 领域树立新的性价比标杆。其短板集中在长程银行类智能体任务上，提示复杂多步业务流程仍是开放模型的共同难题。随着 Bolt 系列边缘模型与 NeMo Gym 生态的落地，英伟达正在把开源 Agent 能力从数据中心一路延伸到端侧，后续社区的微调成果与第三方评测将是检验其实力的关键。