U
行业动态

DeepSeek开源DeepInfer:以更低推理成本搅动大模型市场

中国AI公司DeepSeek宣布将推理优化框架DeepInfer开源,旨在降低企业调用大模型的高昂token成本,并在开源生态中抢占先机。这一举措被视为对闭源厂商高定价模式的直接挑战,也为企业级AI部署提供了更低门槛的选择。

👁 53阅读 💬 0评论
DeepSeek开源DeepInfer:以更低推理成本搅动大模型市场
📝 全文约 1768 字 · 预计阅读 4 分钟

在大模型推理成本居高不下、企业用户对token计费日益敏感的当下,中国AI厂商DeepSeek再度出手:该公司宣布将其推理优化框架DeepInfer正式开源。按照官方说法,此举的核心目标是大幅压低AI推理环节的成本,缓解企业对"高昂token费率"的顾虑,同时帮助DeepSeek在竞争激烈的开源大模型市场中占据更有利的位置。

从闭源到开源:DeepInfer的定位与价值

DeepInfer是DeepSeek围绕大模型推理环节打造的优化框架。与训练成本一次性投入不同,推理成本会随着用户调用量持续累积,是企业和开发者长期运营AI应用时最大的支出项之一。每一次对话、每一次生成,模型厂商都要按token计费,而底层算力与显存的开销则直接决定了费率能压到多低。

通过将DeepInfer开源,DeepSeek等于把自身在推理优化上的工程能力向全行业开放。外部开发者不仅可以免费使用这套框架来部署模型,还能在此基础上二次开发与调优。对于预算有限但又希望自建推理服务的中小企业而言,这提供了一条绕开高价API的路径。

瞄准企业痛点:高昂token费率

DeepSeek在声明中明确指出,此次开源行动的一个重要动因,是"回应企业对高昂token费率的担忧"(addressing enterprise concerns about steep token rates)。在当前市场环境中,头部闭源模型厂商的API定价普遍不低,token单价成为企业测算AI项目ROI时绕不开的变量,不少团队因此在模型选型上举棋不定。

通过开源DeepInfer,DeepSeek希望在开源市场赢得优势,同时化解企业对高昂token费率的顾虑。

换言之,DeepSeek的策略是"技术开源+成本优势"双管齐下:框架开源降低的是自建部署的技术门槛,而推理效率的提升则直接转化为更低的单位token成本。两条线索叠加,构成了其对闭源厂商定价体系的挑战。

开源战略:复制并升级DeepSeek的既有打法

这并非DeepSeek第一次借助开源扩大影响力。此前,DeepSeek已通过开源其大模型权重与技术报告,在全球开发者社区积累了大量关注,其模型以"性能接近闭源旗舰、成本显著更低"的标签被广泛传播,一度引发海外科技界对中美大模型成本差距的讨论。

如今将DeepInfer开源,可以看作这一战略从"模型层"向"基础设施层"的延伸。模型开源解决的是"用得起"的问题,推理框架开源解决的则是"跑得省"的问题。当模型与推理工具链同时开放,开发者从下载、部署到上线服务的全流程,都可以建立在DeepSeek的技术栈之上,这对其生态话语权是明显的加分项。

从行业格局看,开源阵营与闭源阵营的博弈正在从模型能力之争转向成本与生态之争。DeepSeek此番行动,正是试图在开源市场确立先发优势(gain an advantage in the open source market),把"低成本"打造成自己区别于OpenAI等闭源厂商的核心标签。

影响分析:谁受益,谁承压

最直接的受益者是企业用户与独立开发者。推理框架开源意味着他们可以以更低成本自托管模型,规避按token付费带来的长期支出压力,尤其在调用规模大的场景(如客服机器人、文档处理、代码辅助)中,成本差异会被显著放大。同时,开源社区的改进也可能反过来加速推理技术的迭代。

承压方则主要是依赖高毛利API收入的闭源厂商。当开源模型加开源推理框架的组合在效果与成本上持续逼近闭源方案时,闭源厂商要么跟随降价,要么在能力与合规、安全等增值维度上拉开差距。可以预期,围绕推理效率的优化——如KV缓存管理、批处理调度、量化部署等技术,将成为下一阶段厂商比拼的焦点。

展望:推理成本之战才刚刚开始

DeepSeek开源DeepInfer,标志着大模型竞争的主战场正从训练转向推理,从"谁的模型更强"转向"谁的token更便宜"。对企业用户而言,多了一个降低AI部署成本的务实选择;对行业而言,开源与闭源之间的价格与生态之争将进一步白热化。

后续值得关注的是:DeepInfer开源社区的实际采用率、基于该框架的性能测试数据,以及其他厂商是否会跟进开源自己的推理工具链。如果"低成本推理"成为行业标配,整个生成式AI的商业模型都将被重塑,而这正是DeepSeek此次出手想要撬动的深远影响。

💬 评论