英伟达发布Nemotron 3.5 Super VL开源模型:效率拉满,从数据中心杀到桌面
英伟达推出开源1200亿参数多模态模型Nemotron 3.5 Super VL,并同步发布Bolt 74B-A9B 24GB与Bolt E4B 4GB两款边缘模型,覆盖从企业服务器到本地硬件的全场景智能体部署,数十家机构已展开定制后训练。
英伟达今日正式发布Nemotron 3.5 Super VL,一个1200亿参数的开源多模态模型,面向全天候运行的专业智能体,提供同类中最快的任务完成速度与最高准确率。同时亮相的还有两款边缘端模型:面向本地智能体工作负载、平衡智能与速度的Nemotron 3.5 Bolt 74B-A9B 24GB,以及面向快速对话型智能体、优化每GB智能水平的Bolt E4B 4GB。Super VL与Bolt 74B-A9B现已可用,Bolt E4B将于10月23日上线。三款开源模型共同覆盖了智能体部署的完整谱系——从大型企业服务器一路下探到边缘设备与本地硬件。
家族补全:Lightning、Ultra之外的新拼图
Super VL与Bolt的加入,使Nemotron家族的产品线更加完整。此前于8月发布的Lightning负责高吞吐量工作负载,Ultra应对最难度的推理任务,而Bolt则把智能带到边缘端。英伟达强调,任何希望在NVIDIA基础设施上运行智能体的组织,如今都能找到与其层级匹配的开源优化模型,无需在能力与可部署性之间做取舍。
Super VL:五分之一的体积,前沿级的准确率
Super VL由英伟达与Nemotron Coalition合作打造,在指令遵循、工具使用、多步业务工作流和视觉理解等多模态智能体任务上,实现了与英伟达最大推理模型相当的准确率,而参数量仅约其五分之一。在Artificial Analysis Intelligence Index排行榜上,它是同类中最快的开源智能体模型,吞吐量最高达到次优模型的5倍,可帮助企业智能体在跨越数天甚至数周的工作流中更快完成大批量任务。
与闭源前沿模型不同,企业可以在自有数据上对Super VL进行后训练,部署在自己的基础设施上,并对所构建的系统全程掌控。其视觉语言能力直击智能体的实际场景:光学字符识别、表格、图表与视觉文档中的结构化信息——处理网页、提取文本、读懂图表并输出洞见,对PDF等常见文档同样适用。文本与视觉理解合一,意味着智能体无需在独立系统之间路由任务,上下文可以从文档顺畅流转到数据再到决策。
Bolt:把智能体搬进24GB显存和4GB内存
Bolt 74B-A9B 24GB专为在RTX/DGX Spark上本地运行日常智能体任务而设计,采用原生2比特量化压缩进24GB显存,可与其它应用并行运行。在显存占用相近的模型中,它提供了智能与速度的良好平衡——足够聪明完成大部分工作,又远快于最聪明的模型。用户可将其接入主流本地智能体框架,从联网调研到写作再到代码调试,全程无需上云。它在PinchBench同类榜单排名第一,BrowseComp开源模型中排名第二。
Bolt E4B 4GB则面向GeForce RTX、Jetson和RTX/DGX Spark上的实体与对话型智能体,融合自然对话与多轮智能体能力,可驱动本地语音助手、交互式角色和嵌入式界面。
各行业排队定制:从尽调到皮肤科处方
数十家跨行业组织正在用自己的数据、工具、政策和工作流对Super VL进行后训练。Scale AI为Skydance的供应商信贷金融智能体和EY的并购尽调智能体完成定制;AfterQuery为Hebbia定制信贷协议分析;AI21与Alice将模型用于网络安全攻击韧性;Mercor基于APEX-SWE编程基准做后训练,打造能规划、编写和调试代码的编程智能体;ModelScope通过ms-swift框架支持开发者微调。其他定制方还包括Ramp(金融文档智能)、Dream(主权AI网络安全研究)、Lila Sciences(科学发现)与R1(医疗理赔与营收周期管理)。TrainLoop用Nolla的皮肤科数据做后训练,Nolla刚成为首家获准由AI撰写初始患者处方的公司。
平台级集成同样阵容豪华:Atlassian将模型用于Jira、Confluence等应用间的智能体搜索;CrowdStrike定制企业安全智能体蓝队防御;达索系统用于工程设计仿真;Perplexity用于搜索与智能体任务;Salesforce通过Missionforce在安全环境中数字化政府工作流;新思科技的半导体设计验证软件也与模型互操作。
开放权重、开放数据,训练用量首次披露
英伟达披露,Super VL在预训练与持续预训练阶段消耗约26万亿token,随后用约380万样本后训练,并在数十个环境中进行强化学习。模型以开放权重、开放数据集和训练配方发布,定制可通过NVIDIA NeMo、Python流水线和开放数据集完成。英伟达还在Hugging Face发布覆盖智能体工具使用、金融、指令遵循、长上下文、公平性与视觉语言理解的开放数据集,以及NeMo Gym中的强化学习环境。
部署侧,NVIDIA NIM将模型打包为生产就绪微服务,每两周更新安全补丁与性能优化;配合NVIDIA Dynamo,可服务多达8倍的用户并降低85%的延迟。典型用例中,保险智能体可反复扫描理赔欺诈标记,金融智能体可按机构自有放贷标准审查信用评分——模型留在本地,数据保持私密。
硬件全栈覆盖,桌面时代开启
Super VL可运行于NVIDIA完整硬件栈:DGX Spark、DGX Station、RTX PRO与RTX系统实现桌面级本地智能,Jetson覆盖边缘端,同时支持数据中心与云端。Bolt 74B-A9B 24GB已在Hugging Face上线,支持llama.cpp、Ollama、LM Studio、Unsloth和vLLM,并专为10月16日上市的RTX Spark笔记本优化。Super VL现已在Hugging Face、Open Router、ModelScope社区和NVIDIA NIM提供下载。
英伟达此番用三款开源模型打通了数据中心到桌面的每一层级,叠加开放数据与训练配方的透明策略,正试图在开源智能体赛道上以「效率+掌控力」组合拳对抗闭源前沿模型。随着10月下旬Bolt E4B与RTX Spark笔记本相继落地,本地智能体的普及速度或将显著加快。