DeepSeek长上下文老是”抽风”，不是模型不稳定——是字节实习生找到了一个藏了半年的确定性bug
AI飞行客 DeepSeek长上下文老是”抽风”，不是模型不稳定——是字节实习生找到了一个藏了半年的确定性bug
如果你用 DeepSeek 处理过长文档，大概经历过这种抓狂：同一段内容，上一个问题里它明明能精准引用，换一种问法，它就”失忆”了——像没看过一样。
过去大家给这类现象找了个含糊的解释：”模型不稳定””长上下文难免掉点性能”。但字节 Seed 团队的一篇论文，把”抽风”背后那层温吞水式的解释撕开了：这不是随机波动，是一个位置确定、可以预测、甚至可以绕过的系统性缺陷。
先说问题出在哪：KV 缓存压缩引入了一个”隐形坐标”
要理解这个 bug，得先知道长上下文模型的一个关键优化。
处理超长文本时，模型全部”记住”每个 token 的成本高得吓人——内存爆、推理慢。所以主流做法是压缩 KV 缓存：把连续的一段 token，以固定步幅打包压缩成更少的缓存条目。
这个优化的代价是：它给每个 token 引入了一个全新的、隐形的坐标系——相位（phase）。
相位是什么？说白了就是这个 token 相对于压缩窗口边界的位置。同样一个词，它落在压缩块的”开头”，还是”末尾”，位置坐标完全不同。
然后 Seed 团队发现了一个系统性不对称：相同的信息，在某个相位下模型轻松就能检索到，换到另一个相位，模型就像瞎了一样找不着。
他们把这个现象命名为相位敏感性（phase sensitivity）。
最关键的数字：40 个百分点
这不是细微差别。在采用这种压缩方案的公开开源模型上，长上下文检索准确率在不同相位之间可能相差高达 40 个百分点。
40 个百分点是什么概念？假设模型平均分是 80 分——听起来还不错。但如果这个 80 分是由”某些相位 95 分、某些相位 55 分”平均出来的，那这个平均分就是一次彻头彻尾的误导。
你会以为模型”基本可靠、偶尔出错”；实际情况是”一部分情况极其可靠，另一部分情况基本报废”。 这两者的工程含义天差地别。
而且研究覆盖了基础版、后训练版的 DeepSeek-V4-Flash、V4-Pro，以及后训练的 V4.1-Flash——说明这不是某个版本的偶发 bug，而是分块压缩架构自带的先天特性。
我为什么觉得这篇论文比它听起来更重要
抛开 DeepSeek 不谈，这篇论文真正戳破的，是整个评测体系的一个盲区。
这两年，所有人都在比”长上下文能力”——动不动就是 100 万、200 万 token 的窗口，benchmark 分数一个比一个高。但几乎所有主流长上下文评测，都是在整个序列上取平均分。
而”平均分”这种统计口径，天然会掩盖周期性、位置相关的弱点。
一个模型可能在序列开头的检索能力是 95 分，到了某个压缩边界附近暴跌到 55 分——平均下来还是 75 分，看起来正常，实际用起来就是”随机抽风”。
这就像体检只量身高体重：你得到一个”健康指标正常”的结论，但心脏的问题完全没被测到。
“DeepSeek 抽风”这件事最值得所有人记住的教训是：不要相信没有分布信息的平均值。 你要是做 RAG、做长文档 QA、做 Agent 的上下文管理——”我的检索准确率 85%”这个数字，在你知道它的方差和周期性之前，基本没有参考价值。
给做工程的人的实操结论
这篇论文的价值在于，它给了一个可以主动规避的确定性规律，而不只是”知道有这个问题”。几条可以直接落地的建议：
第一，别再无脑相信长上下文 benchmark 的排名。 看到”长上下文准确率 XX%”时，先问一句：是均匀分布的吗？有没有做位置维度的扫描？如果一个评测报告里只有总分，没有按位置拆分的曲线，那这个分数对你的实际场景参考价值有限。
第二，对你的 RAG / 长文档应用做”相位扫描”。 挑一段关键文本，把它分别放在序列的不同位置（开头、中间、靠近压缩边界处、末尾）测试模型能否检索到。如果发现某些位置准确率骤降，你就找到了使用这个模型时的”雷区”。
第三，关键信息不要押在单一位置。 如果一个模型在某些压缩相位会失明，那么缓解策略很简单——把重要信息在序列里做冗余分布，别让它只出现在一个”死亡相位”上。
第四，选模型时，把”位置鲁棒性”当成一个独立维度来评。 模型的”最大窗口多大”是个营销数字，”窗口里每个位置是不是都靠谱”才是工程数字。
最后
这件事最值得玩味的地方在于：一个被大家归结为”AI 玄学不稳定”的现象，被证明是一个确定性的、可预测的、有明确数学机制的位置偏差。
这也提醒我们——在 AI 应用的很多角落里，我们把”已知的架构缺陷”当成了”随机性”来容忍。 模型偶尔答错、偶尔失忆、偶尔胡言乱语——不是因为它”心情不好”，而是因为它的底层结构里，藏着大量我们还没认真画像的系统性偏差。
把这些偏差一个个找出来，比再多训一个更大的模型，对真实用户体验的改善可能更直接。
字节那个实习生做的，就是这件”不性感但极其有用”的事。而这恰恰是当下 AI 研究里最稀缺的一类工作。