英伟达将Run:ai全面开源：Apache 2.0协议下的GPU调度平台

英伟达近日做出一个重磅决定：将其GPU编排平台Run:ai的全部源代码以Apache 2.0许可证在GitHub上开源。这意味着平台团队从此可以自由查看、复刻（fork）并自行托管这套生产级GPU调度、配额与工作负载管理技术栈，而无需再支付订阅费用。此次开源同时使Run:ai正式成为英伟达DSX AI Factory平台的一部分。

从商业产品到全量开源

Run:ai原本是一家以色列初创公司的产品，英伟达于2024年完成收购后将其整合为面向AI工作负载的编排平台。它的定位是在Kubernetes之上运行、而非取代Kubernetes，负责在共享GPU集群中调度开发、训练和推理等工作负载。控制平面处理工作负载提交、资源管理和监控，集群服务则部署在每个Kubernetes集群上，提供GPU感知调度能力。

用户可以通过网页UI、CLI、REST API访问该平台，还提供了一个MCP服务器供AI助手调用。此次开源采用单一Monorepo形式，包含控制平面、集群服务、安装器、CLI和MCP服务器，本地开发构建约需编译50个Go服务。

四大模块化组件可独立采用

英伟达将开源版本拆分为四个可独立采用的组件。其一是KAI Scheduler，这是Kubernetes原生的调度引擎，本身已是Apache 2.0协议下的CNCF沙箱项目，覆盖Gang调度、基于时间的公平共享、拓扑感知、装箱调度以及DRA支持。

其二是GPU Fractioning Operator，将CUDA 13.4原生的GPU切分能力引入Kubernetes，由CUDA驱动对每个工作负载实施硬性内存限制。英伟达已退役旧的专有切分方案，改用这一方式。该算子与具体调度器无关，并可导出每个Pod的指标。其三是KAI Resource Management，增加项目、部门、配额和节点池管理，官方示例中可为研究团队保证集群50%的资源。其四是Workload Map，一个描述PyTorchJob、RayCluster、KServe服务等工作负载类型的Go库，可离线工作，但不负责调度、排队或自动伸缩。

无需GPU即可本地开发

本地开发体验是此次开源的一大亮点：一条local-dev.sh脚本即可在容器内从源码构建约50个Go服务，随后创建一个固定在Kubernetes v1.32.5版本的5节点Kind集群，并用模拟的GPU算子虚拟出8块Tesla-A10 GPU——也就是说完全不需要真实GPU硬件。

支持的主机为macOS或Linux（amd64或arm64架构），不支持Windows。Linux主机需要4核CPU、16GB内存和100GB可用磁盘；macOS上Podman虚拟机至少需要12GB内存；完整构建一次会留下约44GB缓存。若要通过--gpu-operator标志切换到真实NVIDIA GPU模式，则需要Linux、Docker和NVIDIA Container Toolkit，且不支持AMD和Intel加速器。

生产部署路径与合作伙伴生态

开发团队可以从源码部署，也可以使用NGC Community Product的Helm chart。社区版无需付费订阅，但不含英伟达企业支持。团队还可以通过8家DSX生态合作伙伴采用该平台，包括Crusoe、Mirantis、Nebius、OpenNebula Systems、Rafay、Saturn Cloud、Spectro Cloud和vCluster。商业版支持则通过NVIDIA AI Enterprise、NVIDIA Mission Control及部分云市场继续提供。

与同类开源调度器的比较

与Volcano、Kueue、Apache YuniKorn等同类开源项目相比，Run:ai的关键差异在于范围：三者都采用Apache 2.0许可，但Volcano是CNCF孵化项目，Kueue隶属kubernetes-sigs，YuniKorn归Apache软件基金会，它们聚焦于调度或排队；而Run:ai在其调度器之上交付了一个包含控制平面、UI、CLI、REST API和MCP服务器的完整管理平台。Run:ai支持项目、部门、节点池三层配额体系、CUDA 13.4原生GPU切分、拓扑感知和多集群管理（经控制平面），并提供Web UI，这几点在竞品中各有不同程度的缺失。

英伟达为本次发布未公布平台级基准测试，但相关项目Model Streamer的表现值得关注：在微软发布的基准中，使用8台NVIDIA H100虚拟机时，模型加载速度比默认加载器快3到6倍，吞吐量达到80 Gbps，而默认路径约为40 Gbps。

另一个配套项目Grove用于编排多组件推理工作负载，将prefill、decode等组件作为“全有或全无”的整体单元启动。vLLM和SGLang可通过--load-format runai_streamer参数启用Model Streamer，将模型权重直接流式载入GPU内存。

展望未来，Run:ai的全量开源大幅降低了AI基础设施团队使用生产级GPU调度技术的门槛，配合社区版与商业版并行的策略，英伟达既扩大了DSX AI Factory生态的覆盖面，也为Kubernetes GPU编排领域注入了新的竞争变量。开发者现在即可访问GitHub仓库、本地开发指南和英伟达技术博客上手体验。