4个月、从零、一个MacBook:田渊栋把”AI造AI”第一次做成了能交货的东西
4个月、从零、一个MacBook:田渊栋把”AI造AI”第一次做成了能交货的东西
先说结论,省得你被标题党带跑。
Flint 这个模型本身的参数(40B MoE、激活 2.5B、SWE-bench Verified 74.2%)很漂亮,但它不是这条新闻里最有价值的东西。
真正值钱的是那句话:这个模型,是由一套自动化 AI 研究系统参与造出来的,从零开始,只花了 4 个月。
田渊栋离开 Meta 之后创的这家公司叫 Recursive,名字就是它的路线图。他们五月才公开亮相,一露面就拿了 6.5 亿美元早期融资、估值 46.5 亿。八位联创里除了田渊栋,还有 Richard Socher、清华姚班的施天麟、ViT 作者之一 Alexey Dosovitskiy。谷歌 GV、Greycroft 领投,英伟达、AMD 跟投。
押人,也押路线。而今天,他们交了第一份可以验证的答卷。
先说产品:一个能装进笔记本的 40B 程序员
Flint 的定位非常克制:本地 Agent 编程。
参数上是 40B 总参、每 token 只激活 2.5B。MoE 结构是每个 MoE 层 256 个路由专家、每 token 选 6 个,另外挂一个常驻共享专家。这个设计意图很明确——总参数撑得起能力,单步计算量压得住设备。
上下文最高 512k,数据全本地、可离线。
速度是重点。搭配他们自己开源的推理引擎 `rec`,MacBook Pro 上至少 125 tokens/s,RTX Spark 上超过 150 tokens/s。官方的对比数据是:同样用 Flint,`rec` 相比 `llama.cpp` 在对应上下文长度下吞吐提升约 1.4~2.6 倍;比同量级(25B~40B)稠密模型快 5 倍,短上下文也有近 2 倍优势。
对照组里包括老东家 Meta 的 Muse Glimmer。这个细节,田渊栋应该挺享受。
编码成绩:
– SWE-bench Verified:74.2% – SWE-bench Pro v2:89.7% – Terminal-Bench 2.1:54.9%
三项都是同量级最佳。用他们的话说,是”在本地编码上突破了帕累托前沿”——又快又能干。
部署门槛:M4 Pro / M5 Pro / M5 Max,至少 48GB 统一内存、约 30GB 空闲磁盘。一条 `rec launch pi` 自动下载模型、起服务、接编程工具。
说实话,这个产品定位选得非常聪明。
为什么?因为本地编程是一个”能立刻验证收益”的场景。代码任务有编译器、有测试、有 CI,对错分明。你在本地跑一个 Agent 改代码,它写得对不对,几秒钟就知道。这种高频、低延迟、强反馈的循环,恰恰是自动化研究系统最容易拿来迭代的土壤。
不是随便选的。往下看你就明白。
关键在这:Eureka Machine 和那三个 SOTA
Recursive 的自动化研究系统叫 Eureka Machine。
工作流大致是:针对目标提出想法 → 把想法实现 → 跑实验、看结果 → 决定下一步。多条研究线可以并行推进,之前有效的经验可以被保留和组合。
听起来像是”AutoML 加个 LLM”?不是。区别在于粒度。(接下来这段话是我自己的判断。)
AutoML 优化的是超参和架构搜索空间里的一个点。而 Eureka Machine 声称能处理的是从训练质量、训练速度到 GPU 内核效率的整条链。它在三个基准上的成绩单是这么对应的:
| 基准 | 对应能力 | 结果 | |—|—|—| | NanoChat Autoresearch | 训练质量 | SOTA | | NanoGPT Speedrun | 训练速度 | SOTA | | 英伟达 SOL-ExecBench | GPU 内核效率 | SOTA |
三个不同维度的 SOTA,然后 Flint 是把这些”单点改进”拼到一起的产物。
这个逻辑很值得琢磨。RSI 的真正难点从来不是”一步登天让 AI 设计出更强的 AI”,而是”能不能把大量琐碎的、可验证的工程改进自动化串起来”。
每项改进单独看可能只有 1%、2%。但如果有几百项这样的改进被自动发现、验证、累积,结果就是 4 个月一个模型。
这就是为什么我说,这条新闻的价值不在分数上。分数只是用来证明这个流程没跑偏。
但等一下——4 个月这个数字,得掰开看
我在这里必须踩一脚刹车,因为行业里对”4 个月”的解读已经跑偏得有点远了。
第一,4 个月不等于 4 个月的人力。
Recursive 融资 6.5 亿美金,八位联创全是顶级研究员。他们手里是什么算力?没公布。但一家估值 46.5 亿的公司去训一个 40B MoE,后端资源绝对不是普通团队能比的。
“4 个月”省略掉的是:这 4 个月之前的准备期(数据、基础设施、Eureka Machine 本身的搭建),以及支撑这个速度的算力储备。
第二,40B MoE / 激活 2.5B,是一个刻意选小的尺寸。
这不是”用 RSI 训出了 SOTA 大模型”,这是”用 RSI 训出了一个足够好、足够小、能装进笔记本的模型”。
选小的好处是:训练周期短、反馈快、失败成本低、自动化迭代的轮次能跑得更多。这恰恰是 RSI 系统最需要的东西——快反馈循环。
所以正确的读法不是”AI 用 4 个月造出了强模型”,而是”当任务被设计成快速可验证的时候,自动化研究能跑出惊人的迭代效率”。这两个说法差得远。
第三,最关键的:这个循环现在还依赖人。
Eureka Machine 决定”下一步做什么”的依据,是实验跑出来的指标。而指标是人定的。什么算成功、哪个方向值得多推几轮、哪些改进是可以接受的——这些判断还在人类手里。
所以现在这个阶段,更准确的描述是”AI 在人类划定的验证函数里高速搜索”,而不是”AI 自己在决定要往哪进化”。
这不是贬低。恰恰相反——这是 RSI 最有可能真正落地的形态。前面几代关于 RSI 的讨论,都是一步登天式的幻想,结果就是 233 号那篇里说的”持续的瞎忙”。而 Recursive 做的,是把 RSI 拆成可验证、可累积、可交付的工程任务。
它不性感,但它能交货。
我最在意的一点:他们选了编程这个方向
这个选择的政治含义,可能比技术含义更大。
编程是当下唯一一个:有大量公开基准、有客观对错、有成熟评测工具链、而且反馈延迟以秒计的领域。
换句话说,编程是自动化研究系统能跑得最舒服的地形。
反过来说也成立:Recursive 选择先做编程,恰恰说明 RSI 这套东西目前还离不开”快速可验证”这个前提。
那什么时候能推广到别的领域?
– 数学:可验证,但反馈周期长,证明过程难自动化评估 – 科学实验:答案是跑实验室,一轮几周几个月 – 商业决策:根本无法验证,没有 ground truth
所以短期内,你会看到大量”AI 自动改进 AI”、”AI 自动优化代码”、”AI 自动调内核”的成功案例——因为它们都有明确的验证函数。
而真正困难的领域,RSI 还早。
说回本地编程这件事,这才是普通开发者该关心的
上面都是产业层面的判断。落到你身上,这条新闻真正的实用价值是另一回事:
本地跑一个 74.2% SWE-bench 的编程 Agent,这件事一年前是不可能想象的。
一年前的选项是: – 用云端 API(贵、有延迟、代码上传到别人服务器) – 跑 7B 小模型(能力感人,基本没法干活)
现在:48GB 统一内存的 M4 Pro / M5 Pro Mac,一条命令,125 tokens/s,512k 上下文,代码不出本机。
对什么人有意义?
1. 代码不能出内网的团队。金融、医疗、政企。以前只能望云兴叹。 2. 高频小改动的日常开发。改个函数、写个测试、解释段逻辑——云端往返的网络延迟比你思考的时间还长。 3. 离线场景。飞机上、野外、断网环境。 4. 成本敏感的项目。本地跑一次的电费对比 API 账单,跑得够多的话账很好算。
但同时得说清楚限制:
– 74.2% 的 SWE-bench 意味着大约四分之一的任务它搞不定。别指望它替你做架构决策。 – 2.5B 激活参数的知识面,和前沿闭源模型差着量级。复杂重构会掉链子。 – 48GB 内存门槛把大部分人的机器挡在门外。这不是”人人可用”,这是”高端开发本可用”。
诚实的定位是:一个不用付 API 费、不担心代码外泄、延迟极低的编程副驾驶。不是替代品,是补充。
我的判断
这篇东西要是不带立场,那就白写了。
第一,田渊栋这条路线,我认为方向对了。
RSI 最大的问题是它太容易被讲成神话。而 Recursive 的做法是把神话拆成工程:不追求”AI 自己发明更强的架构”,而是让 AI 在人类设定的验证函数内高速搜索可以被验证的改进,然后把这些改进组装起来。
这条路不炫,但它可测量、可复现、可交付。
第二,”4 个月”会变成行业的标准叙事,然后被滥用。
我几乎可以预见,接下来会有无数团队拿”我们 X 个月从零训出模型”来包装自己,隐去算力预算、人力规模、前期积累。
看到这类说法,先问三个数:算力花了多少、训练跑了多少轮、之前的准备工作做了多久。三个都不说,那这 4 个月就是个营销数字。
第三,本地模型的拐点可能真的到了。
40B MoE / 2.5B 激活 / 125 tokens/s / 512k 上下文 / SWE-bench 74.2%。这组数字如果站得住,本地 Agent 编程就从”玩具”进入了”可用”。
这是我今年看到的、关于端侧 AI 最实在的一个进展。不是那种”明年就要颠覆一切”的 PPT,是今天你就能下载下来跑的东西。
第四,也是最该警惕的:RSI 这个话题会继续被过度消费。
记住一件事:自动化研究系统的上限,等于人类给它设定的验证函数的质量。 你能自动优化的,只有你能评估的。编程能跑得快,是因为编译器不会撒谎。别的领域没有编译器。
—
Flint 是开源的,`rec` 也是。模型权重、推理引擎都能拿。
我今晚打算先跑一下看看到底是不是宣传的那样。等我的实测——如果它真能在 48GB 的 Mac 上稳在 125 tokens/s 并且写出能过的测试,那我承认,这 4 个月的账,算得过来。
*模型:Flint(40B MoE,激活 2.5B)* *公司:Recursive(创始人含田渊栋、Richard Socher、施天麟、Alexey Dosovitskiy)* *推理引擎:rec(开源,优化苹果芯片)* *基准:SWE-bench Verified 74.2% / SWE-bench Pro v2 89.7% / Terminal-Bench 2.1 54.9%* *参考资料:https://recursive.com/updates/introducing-recursive-flint* *文档:https://docs.recursive.com/edge/rec*