Meta开源816B参数旗舰模型Muse Spark Open 权重今日开放下载
Meta正式在Hugging Face以Muse Model License开放旗舰模型Muse Spark Open权重。该模型总参数816B、激活42B,支持1M token上下文,面向编码与智能体场景,原生多模态,并针对NVIDIA、AMD、Intel优化,配套Helion内核与TorchTitan微调工具链。
今天,Meta宣布正式开源Muse Spark Open的模型权重,这是迄今为止能力最强的美国开放权重模型,已在Hugging Face平台以Muse Model License发布,开发者可即时下载使用。此次开源建立在Meta今年8月发布的Muse Spark基础之上,不仅放出了模型本身,还带来了围绕PyTorch生态的完整工具链支持,从推理引擎优化到训练微调框架一应俱全。
旗舰级规格:816B参数、1M上下文
Muse Spark Open是一个总参数量816B、每次激活42B参数的稀疏大模型,上下文窗口高达100万token。这意味着它可以一次性处理整个软件项目,包括复杂的依赖关系、遗留代码和成千上万个文件,而无需将任务拆分成片段。该模型与Muse Spark 1.3共享同一基座模型,是家族中的全尺寸旗舰版本;此前Meta还发布过小型稠密模型Muse Glimmer,可通过ExecuTorch运行。
相比8月的Muse Spark,这次开放权重版本额外增加了一轮安全后训练,使其在作为独立模型运行、没有系统级防护栏的情况下,对滥用的鲁棒性更强。Meta称这一版本是开源模型中安全性的首选之一。
为编码与智能体而生
Muse Spark Open是针对编码场景深度优化的开放权重模型,专为智能体编码工作流训练,能够提供更高的首次尝试成功率、可靠的工具调用能力和对代码库的深度理解。它的训练数据来自真实开发者工作流——多文件重构、调试会话和长时间运行的任务,使模型能够跟上开发者的实际工作方式。
在智能体能力方面,该模型从底层设计出发,能够规划步骤、执行动作、观察结果并在长时间跨度内自我纠正,而不只是单次工具调用。它被训练用于浏览网页(包括多模态浏览),并可以生成和协调子智能体来分解复杂工作,还能跨桌面、移动端和浏览器统一调用计算机使用能力。此外,模型会生成独立的评论内容,在行动之前先陈述意图,让用户始终清楚它在做什么、为什么这么做。
原生多模态:音频与视听感知
Muse Spark Open原生支持多模态理解,除图像和文档理解外,还具备音频以及音视频感知能力。作为一个推理模型,它可以原生且可靠地处理图像、音频和文本输入,这在开放权重模型中并不多见。
Helion内核:跨硬件的高性能推理
Meta此次同步推广了Helion——一个PyTorch原生的内核编写语言,用于跨异构硬件平台编写高性能内核。Helion在获得开源生态早期采用后,已于2026年4月成为PyTorch基金会的一部分。Muse Spark Open附带RoPE、RMSNorm、量化等操作的Helion实现,在NVIDIA GB300上相比用CUDA、CuTe DSL等硬件专用语言编写的自定义内核可实现1.03至3.95倍加速。
更重要的是,这些内核可直接移植到AMD平台,在AMD MI350上取得相近的性能提升,端到端吞吐量整体提升3%。Meta还为SGLang中的Muse Spark Open发布了完全用Helion编写的megakernels,将多个操作融合为单个持久内核,改善低延迟推理表现,并可针对不同形状和硬件自动调优。开发者还可自行对Helion内核进行自动调优,覆盖NVIDIA、AMD、Google TPU等不同加速器架构、量化格式、张量形状和并行策略,无需为每种配置单独维护手工优化的实现。
TorchTitan:开箱即用的微调方案
训练侧的支持同样到位。TorchTitan是PyTorch原生的生成式AI模型实验与大规模训练平台,即日起已内置Muse Spark Open的模型定义,开发者可以按需微调。TorchTitan开箱即用地支持多轮监督微调(SFT)和LoRA,还提供强化学习能力(TitanRL),让用户能进一步定制模型行为。
Meta强调,作为PyTorch的创造者,公司热爱开源并致力于回馈生态,确保整个生态完整支持Muse Spark Open。Muse Spark Open在SGLang和vLLM两大推理引擎上均可优化运行,并针对NVIDIA、AMD和Intel硬件做了适配。
生态影响与展望
此次开源被视为美国开放权重阵营的一次重要加码:以816B总参数、1M上下文的旗舰规格,叠加原生多模态与智能体训练,Muse Spark Open在能力上限上向闭源前沿模型靠拢,同时通过宽松许可降低了企业自部署和二次开发的门槛。
Meta表示,分享这项工作的原因是希望每个人都能使用最好的AI模型。随着Helion内核跨NVIDIA、AMD乃至TPU平台的可移植性不断提升,以及TorchTitan为微调铺平道路,PyTorch社区接下来能把这个模型推向多远,值得整个行业关注。开发者现在即可访问Hugging Face上的meta-models/Muse-Spark-open-816B-A42B页面开始构建。