前沿导读 DeepSeek在大模型开源的基础上，又将自己内部的生产级推理框架DeepInfer进行开源。在美国AI企业普遍专注价格昂贵的闭源模型时，DeepSeek将影响AI运营成本的软件技术向外界开放。 这绝不是一次简单的技术开源，而是让外界看到AI竞争的另一条主线，用更高效的软件优化，把同样的芯片和模型跑出更低成本。 框架开源 推理框架负责管理模型如何使用计算资源来处理用户请求，其设计会直接影响延迟、吞吐量以及运行模型所需的硬件。 AI大模型决定了这个软件可以开展什么样的工作，而推理框架则是决定了软件在工作时推理一次要花多少钱、速度有多快、占据多少资源，这种技术通常被视为AI公司的核心竞争力，很少对外公开。 DeepSeek最初的R1和V3大模型，一经发布便登上了免费AI大模型软件的下载量榜首，其大模型的开源模式也造成了美国AI企业的股价下跌，这都是因为DeepSeek在使用英伟达老款芯片，以较低的训练成本、强大的架构优化能力带来的连锁反应。 即便是同一款AI模型，实际运行成本也可能因所采用的软件不同而存在较大差异。更高效的软件能够降低每次请求所需的计算资源，并有望进一步减少能源消耗。 DeepSeek在面临美国尖端芯片出口限制的背景下，仍能确保大模型水平紧追美国顶尖的AI模型，推理框架正是其核心支撑之一。这也说明，在硬件受限时，软件优化和系统工程能力可以成为重要的“对冲工具”。 从公开信息看，DeepInfer把分布式推理、投机解码等能力打包进同一套框架，把负载拆到不同硬件上执行，目标是缩短出词时间、提高单位时间产出，该框架目前已兼容英伟达SM100 GPU和华为昇腾950 NPU。 英伟达的SM100架构和华为昇腾950平台都属于各自最前沿、最尖端、最先进的AI技术栈，DeepSeek的推理框架兼容这两大前沿芯片平台，可以说是紧跟着中美AI产业的发展脚步前进，让中国开源大模型技术更好的融入主流技术的发展中。 推理系统不是把几个先进模块拼在一起就能跑通，调度策略、解码方式、硬件适配和模型特性之间需要形成合力。DeepInfer展示的，正是这种“模型与框架协同、软件与硬件协同”的系统工程路径。 推理成本下降，最先受益的是AI托管服务商。 对托管服务商来说，推理成本下降意味着利润空间更大，也可能传导为更低的API价格。企业若把DeepSeek模型部署在自有算力上，DeepInfer也有望压低算力开支。框架开源之后，外部团队可以拆解它的实现方法，把可复用的做法应用到自己的推理系统中。 市场扩散 在DeepSeek海外平台的开源公告下面，一位印度博主用“Real OPEN AI”这个说法点赞DeepSeek，还配了一段拿Open AI CEO奥尔特曼开涮的视频。 Open AI虽然从命名上面来看代表的是“开放人工智能”，但是其大模型技术以闭源模式运营，由商业公司来主导发展，按照调用量和订阅付费的方式盈利。 这种闭源模式简单来说就是以自身为中心，打造一个特定的用户圈子，并且只对圈子内的客户们服务。而DeepSeek选择将大模型技术和推理框架全部开源，允许其他开发者将自己的技术部署到对方的平台之上，极大拉低了技术成本，让AI变得更加普及实惠。 从某种意义上面来说，DeepSeek才算是“开放人工智能”的代表性角色。 不过DeepSeek开源的推理框架并非是一套完整的技术栈，使用者要构建完整的技术服务，还需要自己解决KV缓存、Prefill/Decode解耦、在数据并行副本间进行负载均衡等功能的问题，这些内容并未包含在开源架构当中。 DeepInfer把部署DeepSeek模型的门槛下降了一些，但是部署模型的企业必须要具备一定的技术实力。否则即便是已经开源项目，也会因自身实力的强弱呈现出不同的效果。 开源所带来的是透明度和可参与性，而不是消除工程上面的技术门槛。企业在采用时，仍需评估硬件兼容性、运维能力和补齐完整技术栈的成本。 DeepInfer的开源，释放了一个清晰信号，AI竞争正在从单纯的“模型技术”，转向推理成本、软硬协同和系统工程能力的综合较量。 开放推理层，可能让竞争逻辑从“比拼算力”部分转向“降成本、提效率、扩生态”。 DeepSeek在个人账号中引了一句古话：“为善与众行之，为巧与众能之”。其意思是好东西要和大家一起分享，个人优秀的同时也要带动其他人一起进步。 DeepSeek的开源模式是为了将门槛较高的AI技术进一步下放到更广阔的民用市场，要建立一个更加高效并且有助于降低能源消耗的技术产品。 Open AI的闭源模式本质上也没错，闭源模式可以将最尖端的技术拿捏在自己手里，形成一套强大的技术生态链以此谋利。但是既然选择了闭源模式，那么就要做好被开源大模型冲击的准备。 特别