标签：DeepInfer 共 1 条

DeepSeek开源DeepInfer：支撑自家生产服务的推理框架正式开放

中国人工智能初创公司杭州深度求索人工智能基础技术研究有限公司（DeepSeek）宣布开源自研推理框架DeepInfer。该框架并非实验性原型，而是长期支撑DeepSeek自身生产服务在线运行的底层引擎。公司明确表示，以合理价格服务海量用户是推理框架要解决的核心问题，此次开源直指大模型服务成本这一行业最痛点。