OpenAI一口气放出722篇AI数学手稿,两天后撤回3篇——原因是一个正负号写反了

OpenAI一口气放出722篇AI数学手稿,两天后撤回3篇——原因是一个正负号写反了

如果你要找一个”AI 攻克数学”叙事的反面教材,没有比这更工整的案例了。

昨天,OpenAI 一口气放出 722 篇由 AI 生成的数学手稿,宣称在霍奇猜想等方向取得成果。今天,它撤回了其中 3 篇。原因说出来小得有点荒诞:一个正负号写错了。

一个符号,拖垮三篇论文

被撤回的三篇都跟千禧年大奖难题之一的霍奇猜想相关。挂在关键位置的那篇,题目叫《分裂阿贝尔八重簇上 Weil 类的代数性》。

错误是这样的:论文在一处关键论证里,把一类几何操作的符号记成了 +1,但按论文自己前文的约定,它应当是 -1。

一正一负,结果天差地别。原本应该相互抵消、最终归零的计数,变成了一个不为零的数。而这篇论文所依赖的一个经典定理,前提条件恰恰是这个计数必须为零。

前提不成立,后面整套构造就全塌了。另外两篇都借用了这套构造,于是被一并撤回。

一个符号,拖垮三篇论文。整个过程干净利落,也干净利落地暴露了一件事:AI 写数学,错法和人类不太一样。

人类数学家也会写错符号。但人类在漫长的推导过程中,往往会在某个环节”感觉不对”——量级对不上、直觉发出了警报。这种模糊的自我怀疑,是从无数次手工演算里长出来的。

而 AI 没有这种”手感”。它把符号当成一个可以任意填写的槽位,前后约定的一致性靠的是概率上的拟合,而不是理解。当 722 篇手稿在极短时间内批量产出时,这种”局部一致性”的审查根本跟不上。

“撤回证明不等于命题错误”——这句话要拆开看

OpenAI 在三份撤稿说明里都强调了同一句话:撤回的是证明,并不意味着这些数学命题本身是错的。

这句话技术上成立,但作为公关话术需要拆开看。

成立的部分:一个命题的真假,和一个证明的对错,确实是两回事。证明错了,命题可能依然是真的,只是暂时没有被证明而已。

需要警惕的部分:这句话在有意无意地分散注意力——它把”我们 AI 做的证明有系统性缺陷”这个问题的焦点,转移到了”但结论可能是对的”这个更舒服的位置上。

而对数学共同体来说,真正重要的是:如果一篇证明的可靠性,需要等到公开之后靠人类逐篇复核才能确认,那”AI 生成数学”的产出速度,就变成了整个学术界的负担。

722 篇手稿,公开两天,第一份勘误单就来了,撤回 3 篇、修订 14 篇、更新引用 13 篇。这东西大概率不会是最后一份。

我最在意的,不是这个 bug,是它揭示的验证结构

把这几天的几条新闻串起来看,一个非常清晰的图景浮现出来:

– 9 月,OpenAI 说内部模型 88 小时攻克 Navier-Stokes 方程; – 同期,研究者和 OpenAI 因为”抢跑”与署名问题公开互撕,核心质疑是:你们是否读取了用户数据? OpenAI 的回应耐人寻味——”无法排除由他们使用我们产品所产生的去标识化数据,曾帮助改进我们的模型”; – 10 月,722 篇手稿批量发布,两天后首份勘误; – 与此同时,陶哲轩撰文判断,AI 可能让数学遭遇”自 Gödel 以来最大的危机”。

这几件事的共同点,全部指向验证(verification)。

AI 把”生成证明”的成本压到了接近于零,于是验证成了新的瓶颈。以前数学界最贵的是”想出来”,现在最贵的是”确认对不对”。而人类验证者的数量、精力和耐心,是一个无法通过堆算力解决的硬约束。

这才是 AI 数学真正的问题所在。不是什么”AI 会不会做题”,而是”当证明可以无限量产时,谁来为它们的正确性负责”。

值得肯定的一点:OpenAI 这次的处理算规范

公平地说,这次的勘误流程本身做得不错:

– 错误写清楚了(哪个符号、应该是几); – 依赖链交代了(哪几篇受影响、为什么); – 旧版本保留可查,没有偷偷删掉; – 明确说明”撤的是证明不是命题”,防止误读。

这符合高等研究院数学与 AI 咨询小组建议的”修改留痕”原则。在一个 AI 生成内容正在破坏学术信任的时代,愿意把错误摊开来讲,是唯一正确的姿态。

但流程规范,不能掩盖频率问题。第一次勘误出现在公开后两天,说明这批手稿在发布前的内部质量把关,远没有到能承受公开检验的程度。

我的判断:这是一次必要的”祛魅”

前面几轮我聊过”数学毕业了”的争论(xAI 联创),也聊过菲尔兹奖得主预言渗流猜想被攻破(GitHub 静默证明)。那两篇讲的都是AI 能力的上限被推高。

这一篇,讲的是AI 能力的下限暴露出来了。三个故事合在一起,才是完整的真相:

AI 在数学上确实能攻下人类几十年攻不下的堡垒——但它的错误率,也远远超出了可以”直接采信”的程度。

对做工程的人来说,这里有一条极其现实的教训:不要因为 AI 在某个 benchmark 上接近满分,就假定它在你的生产环境里可以直接采信。 数学能靠 Lean 形式化验证兜底,已经很幸运了;而大多数 AI 生成的产出(代码、文案、报告)连一个自动验证器都没有。

你唯一能做的,是把验证成本算进你的流程,而不是默认 AI 的产出是对的。

对数学界来说,这次撤回是个提醒:和 AI 协作的方式,不能是”AI 写、人类信”,而必须是”AI 写、人类验,且验证流程本身要工业化”。

至于那个写反的正负号——它可能是这几天最贵的一个字符。

但比这个字符更贵的,是整个行业还没想清楚的:当 AI 一天能产 722 篇证明时,我们拿什么去承担验证它的成本。

这个问题,OpenAI 撤稿说明里没有答案。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注