三十年河东:硅谷开始抄中国作业了。Opus 5.5 和 GPT-6 Luna 的身上,刻着姚顺雨和梁文锋的名字
三十年河东:硅谷开始抄中国作业了。Opus 5.5 和 GPT-6 Luna 的身上,刻着姚顺雨和梁文锋的名字
先看一个数字。
Artificial Analysis 的智能指数里有一项统计:跑完一道题,平均要输出多少 token。
在 max 档位下,Claude Opus 5.5 平均每题要吐出 11.9 万个输出 token——其中 8.4 万是”思考”,3.5 万是最终答案。而同期 OpenAI 的 GPT-6 Astra,同一档位只用了 2.7 万。
五倍差距。这不是算错,这是两条完全不同的技术路线。
而更值得玩味的是:Opus 5.5 走的这条路,一个中国研究员早在 2023 年就画好了图纸。
阿莫迪抄了姚顺雨的作业
Opus 5.5 的核心变化是:它不再提供”关闭 thinking 模式”的选项。
这个细节的分量,比任何一句官方宣传都重。它在变相承认:推理过程就是模型的一部分,你不能关掉它。
官方声明写的是,除非特别注明,所有成绩都跑在”adaptive thinking at max effort”(最大力度自适应思考)下。
这就是 test-time compute 路线——训练完的模型只是半成品,真正答题时先写一大段推理,想得越久答得越好。智力不再只来自权重,还来自每次调用时现场的推理。
换句话说:智力被搬进了上下文。
这条路线的开创者之一,就是姚顺雨。2023 年他提出 Tree of Thoughts(思维树)——推理时展开多条思路、边想边搜索最优解。同年提出 ReAct 架构,让模型”推理”和”行动”交替进行。2025 年 4 月那篇《The Second Half》更是直接给出了判断:
> AI 的上半场拼的是”训练方法与模型”——更大的参数、更多的数据、更强的算力。到了下半场,拼的是”如何使用与评估模型”。增量正在从”训练”挪到”推理与行动”。
姚顺雨还有一个特别妙的洞察:他把”思考”称作一种”奇怪的动作”。
RL 里的动作是用来改变环境的——打开一个箱子,箱子的状态就变了。但思考不会,你想一万遍箱子也不会自己开。姚顺雨举了个例子:两个盒子,一个装 100 万美元,一个是空的,期望收益 50 万。现在往里塞进无数个空盒子,期望收益就趋近于零——因为你要从无穷多个盒子里挑那个装钱的。但诡异的是,加入”推理”这个动作之后,模型反而更容易选中那个装钱的盒子。
因为挑选空盒子的过程本身,就是在为”选中装钱盒子”做准备。
Opus 5.5 干的事,就是把姚顺雨这张图纸工程化了。
奥特曼抄了梁文锋的作业
如果说 Opus 5.5 的重点是”怎么想”,那 GPT-6 Luna 的重点就是”怎么便宜地想”。
GPT-6 Luna 输入 0.1 美元/百万 token、输出 0.5 美元/百万 token,比上一代直接砍半。如果缓存命中,读一次缓存只要 0.01 美元/百万 token——比标准输入价便宜 90%。
这套动作,DeepSeek 早就做完了。
2026 年 8 月 2 日,DeepSeek 上线”Context Caching on Disk”(磁盘上下文缓存),把重复内容缓存在磁盘阵列上,命中时直接取用、跳过重算。命中价砍到 0.1 元/百万 token,比未命中便宜正好也是 90%。
到了 V4 Flash,命中 0.02 元、未命中 1 元,差 50 倍。
原理也几乎一样。GPU 显存极贵,能装的 KV cache 有限;硬盘便宜且大。把 KV cache 写进硬盘,成本立刻塌下来。OpenAI 现在做的 prompt caching,和 DeepSeek 是同一个思路——同一段前缀算过一次存起来,下次直接读。
不止价格,还有架构。
GPT-6 Luna 上下文窗口 105 万 token,DeepSeek V4 是 100 万 token——几乎对齐。但 100 万上下文的 KV cache,按标准注意力机制来算,一半的模型根本扛不住。
DeepSeek 用的是 MLA 架构:把 Key 和 Value 联合压缩进一个低维潜空间,缓存那个潜向量、用时再上采样还原。DeepSeek-V2 的技术报告写着,MLA 把 KV cache 砍掉 93.3%,生成吞吐提升到 5.76 倍。到 V4,又叠上压缩稀疏注意力和重度压缩注意力,V4-Pro 在百万 token 下 KV cache 只有上一代 V3.2 的 10%。
第三招:推测解码
还有一招更隐蔽的。
OpenAI 官方博客说,他们跑一个更小的 draft(草稿)模型,让它和主模型并行”猜”接下来几个 token,主模型再批量验收。猜对了,一次前向就能吐好几个 token。官方称这一项让生成效率提升 15% 以上。
这个思路,2024 年的 DeepSeek V3 里就有了,叫 MTP(Multi-Token Prediction,多 token 预测)。
区别只在实现:DeepSeek 是在主干模型后面直接挂一个 MTP 头,训练时和主干一起训、共享 hidden state。推理时这个头知道主模型内部状态长什么样,所以猜得准、验收通过率高。OpenAI 则是外挂一个独立小模型打草稿——两个模型各跑各的,草稿不知道主模型在想什么,只能猜完由主模型验收。
方法不同,思想同一个:小的先猜、大的批量验,把串行解码变并行。
一个让人不太舒服的结论
以前的剧本是这样的:定义模型的是硅谷,国内公司算力有限,所以把硅谷的定义转换成更便宜的解决办法。
这一轮,反过来了。
学术范式(test-time compute)和工程范式(缓存、MLA、稀疏注意力、推测解码),都是中国公司先做出来的。美国的巨头们负责最后一步——把它做成产品,卖给全世界。
为什么会这样?
因为过去几年,大厂的资源、人才、注意力全部 all in 在预训练这个主战场上。大家按 Scaling Law 堆数据、堆算力、刷榜单。可头部公司现在都撞上了同一堵墙:优质数据近乎训练殆尽,预训练边际收益递减。
于是行业的增量自然出现在第二战场——推理时怎么想、上下文怎么用、长上下文怎么便宜。
这里有个反直觉的地方:主战场上的优势,到了第二战场反而是累赘。
手里攥着最多算力和数据的一方,恰恰最没动力去抠成本、抠效率。”反正我堆卡就能解决问题,何必费劲想更聪明的办法?”——省显存、省钱这件事,从一开始就不是他们的议题,甚至有点”掉价”。
只有算力吃紧的一方,才会把每一分钱花在刀刃上。
DeepSeek 的 MLA、磁盘缓存、稀疏注意力,本质上都是”穷则思变”。 当年它们只是”没钱的替代方案”,是没办法的办法。可真到全行业开始拼效率的时候,这些”土办法”忽然成了最硬的通货。
所以才会出现国外”偷师”国内的现状。
别急着高潮
但我不打算把这事说成”中国 AI 赢了”。
恰恰相反,最该警惕的正是这种叙事。技术范式的领先,和商业价值的领先,中间隔着一条巨大的鸿沟。
DeepSeek 做出了 MLA,可把它变成 500 美元/月订阅产品的是 OpenAI。姚顺雨画出了 test-time 的图纸,把它做成”不提供关闭 thinking 选项”的成品的是 Anthropic。
定义范式的人,和被市场记住的人,往往不是同一批。
真正值得中国公司思考的问题不是”我们技术领先了”,而是:为什么领先的范式,总是由别人先变成产品?
这轮”偷师”事件真正的分量,不在谁抄了谁。而在于它证明了一件事——当算力不再是护城河的时候,工程效率就是新的护城河。 而工程效率这件事,拼的从来不是钱多,是脑子。
穷则思变,思变则通。这句话现在轮到硅谷来体会了。