DeepSeek 把最赚钱的那层”地基”开源了：155 万亿 Token/天、每卡每小时 38 美元，连提示词对齐的”说明书”都给你了
AI飞行客 DeepSeek 把最赚钱的那层”地基”开源了：155 万亿 Token/天、每卡每小时 38 美元，连提示词对齐的”说明书”都给你了
一家公司在什么情况下，会把自家线上服务赖以赚钱的核心引擎白送出去？
2026 年 10 月 20 日，DeepSeek 宣布全面开源自研推理框架 DeepInfer，Apache 2.0 协议，同步放出生产级 Token 编解码组件 deepseek-recipe。GitHub 上有完整代码，知乎上有技术长文，README 里还放了一份从架构到部署的问答。
先说这次开源的最硬的两个数字：
– 单一集群日吞吐 155 万亿 Tokens； – 每卡每小时收入 38 美元（按谷价计）。
这两个数不是实验室指标，是支撑 DeepSeek V4.1 Flash 对外商用的真实线上数据。换句话说，DeepSeek 把自己”靠什么赚钱”的那层地基，摊开给了所有人看。
大部分人对推理框架有误解
大部分人以为大模型的能力边界在模型本身。模型够强，服务就够好。
但你仔细算一笔账：平均每个请求输入 77K Token，首字延迟 400 毫秒，生成 230 Token/s，写代码时冲到 300——这些不是模型给的，是推理框架给的。 模型决定”能想什么”，推理框架决定”用什么价格、多快、能同时服务多少人”。
DeepSeek 自己的说法很精准：”训练使模型学有所成，推理则让模型为人所用。”
而推理框架，是这个行业最不性感、却最决定成本的中间层。堆满 GPU 的机房，调度得好是印钞机，调度得差就是一堆在烧电的硅片。
DeepInfer 到底做了什么
技术报告里的能力清单：分布式推理、DSpark 推测解码 + 置信度调度验证、SWA Bounded Replay、异步零开销批调度、结构化输出。
用人话翻译几个关键的：
推测解码（Speculative Decoding）——先用小模型快速”猜”接下来几个 token，再让大模型一次性验收。猜对了就是白赚，猜错了就回退。配合置信度调度验证，这是目前提升吞吐最有效的招之一。
SWA Bounded Replay（滑动窗口注意力有界重放）——这是长上下文的省钱关键。你不可能每次都把 77K 输入重新算一遍，那就把窗口内的计算结果缓存住、有界地重放，避免重复计算。
异步零开销批调度——把调度开销压到接近零，让 GPU 不空转。
最关键的一个线上数字：平均 96% 的输入能直接命中缓存，根本不用重算。
这就是为什么它能做到”平均 77K 输入 + 400 毫秒首字”——不是模型变态快，是大部分活根本没让它重干。
那个最被低估的东西：deepseek-recipe
我觉得这次开源里，比 DeepInfer 更值得普通人注意的是 deepseek-recipe。
它是一个 Rust 实现、带 Python 绑定的编解码库，把三件事做到了与 DeepSeek 官方 API 完全对齐：
1. 提示词渲染 2. Token 上限推算 3. 结构化输出
为什么这个重要？因为过去所有自托管 DeepSeek 模型的人都撞过同一堵墙：你在本地跑得挺好，结果跟官方 API 对不上。 一样的 prompt，官方 API 输出 A，你本地输出 B。
不是模型不行，是提示词渲染的细节有偏差——模板怎么拼接、特殊 token 怎么插入、思考链的格式怎么处理，这些细节官方一直没公开。你只能靠猜。
现在 DeepSeek 把这份”说明书”直接开源了。这意味着自托管第一次真正可以做到和官方 API 一致的行为。
这件事的意义比想象中大得多：它解决的不是性能问题，是可复现性问题。一个企业要做私有化部署，最怕的就是”我本地跑的和官方不一样，出了问题没法归因”。现在这条沟被填了。
但我必须说清楚几个硬限制
别把这次开源理解成”谁都能在家跑 DeepSeek”。
第一，这次开源的是离线推理版本。 在线服务需要的 KV 缓存系统、Prefill/Decode 分离部署，没有包含在内。这两个恰恰是超大规模在线服务的核心。
第二，消费级显卡跑不了。 门槛在英伟达 Blackwell（SM100）或华为昇腾 950。你要么买企业级卡，要么租。
第三，它不是”另起炉灶”的竞品。 README 写得很坦白：DeepInfer 最初基于 vLLM 构建，同时借鉴了 SGLang 和 TensorRT-LLM 的设计。它是一份官方深度调优过的参考实现，不是全新的推理系统。
我愿意为这句话点赞——太多开源项目会把”我们基于 vLLM 改造”这句话藏在角落，DeepSeek 把它写在最前面。
我的判断
第一，DeepSeek 的开源路线，已经从”放权重”进化到”放整条栈”。
捋一下时间线：先开源模型权重，再开源 FlashMLA、DeepGEMM、DeepEP、TileLang 这些底层算子，现在把调度框架也交出来。从模型、编译工具、算子库，到推理框架和 API 编解码——整条链路已经铺完了。
这比单纯放权重彻底得多。放权重只是”给你一个能跑的模型”，放全栈是”给你一份怎么把它跑得又快又便宜的完整图纸”。
第二，这次开源真正针对的不是开发者，是算力成本。
DeepSeek 自己的话很直白：推理框架的运行效率，直接决定 AI 服务的算力成本与电力消耗。
现在整个行业都在为电发愁——算力中心的散热甚至已经成了”制约 AI 发展的命门”。在这种背景下，把”如何用更少的卡、更少的电服务更多人”的经验公开，比开源一个模型的意义更大。这是从”我能做”到”大家都能便宜地做”的转变。
第三，”兼容昇腾 950″这一句，藏着地缘政治的重量。
同时支持英伟达 Blackwell 和华为昇腾 950——在当前的环境下，这不是一个技术细节，这是一个战略姿态。它意味着国产模型+国产芯片的完整栈，第一次有了官方调优的推理方案可供参考。
第四，给实操者的建议——别被”155 万亿”这个数字带跑。
如果你是个人开发者或小团队，这次开源对你的直接价值不在”自己部署”，而在两件事：
1. 读懂 DeepInfer 的调度策略。 96% 的缓存命中、SWA 有界重放、异步批调度——这些思路对任何做推理服务的团队都有借鉴价值，哪怕你用的是别的框架。 2. 如果你是做私有化部署的，那 deepseek-recipe 才是今晚最该下载的东西。 它解决的是”你的本地行为和官方不一样”这个最折磨人的问题。
至于 DeepInfer 本身，老实说——没有 BlackStone/昇腾 950 的话，你多半跑不动。 但没关系，看它怎么思考，比跑去跑它更重要。
最后说句我的感想。
AI 公司最好的开源，从来不是”我有了多余的东西，送你一点”。是”我把最赚钱的这套方法公开，赌的是整个行业变大对我更有利”。
DeepSeek 这次起名叫”走向真正普惠的未来”。这话听起来像口号。
但当你看到它把支撑 155 万亿 Token/天、每卡每小时赚 38 美元的那套系统源代码放出来的时候——这句话至少有了形状。