80%的Token在空转:为什么大模型的”人海战术”正在吃掉你的利润?
80%的Token在空转:为什么大模型的”人海战术”正在吃掉你的利润?
很多高管都在做同一个美梦:今年买几万个Agent,明年就可以裁掉一半员工,利润直接翻倍。
然而现实却是,AI没有消灭工作,反而在疯狂制造新的财务黑洞。
Ramp对2.1万家美国公司的研究揭晓了一个颇为讽刺的数据:AI高强度使用的企业,员工规模反而增长了10.2%,而低支出的企业员工规模几乎停滞。更惨烈的是,头部企业每位员工分摊的AI支出,正从2025年的2万美元一路狂飙至2026年底的22.5万美元——这已经远远超过了一个资深软件工程师的平均薪酬。
你本以为请来的是一群不知疲倦的廉价数字员工。
真相是,你正在花着比请真人更贵的钱,养着80%天天在”摸鱼空转”的Token。
—
堆Token,就是数字时代的”人海战术”
当一个业务部门业绩不佳时,平庸管理者的第一反应通常是”加人”。
而在大模型时代,公司遇到AI输出不符合预期时,最常见的反应也是”堆资源”——加Prompt、加推理步骤、疯狂堆Token。
模型答得不好?多跑几轮。 Agent结果不对?加个自我反思机制重新生成。
这种做法在表面上被包装成”提高认知深度”和”Agent自进化”,本质上和传统公司用”堆人头”来掩盖管理混乱没有任何区别。
Token本身从来不是问题。问题是,大企业里根本没有人能讲清楚,哪些信息值得交给AI,哪些任务的目标是清晰的。
如果任务定义从一开始就是模糊的,塞给AI再多的Token、再长的上下文,模型也无法无中生有地产生智能。它只会像一个极其顺从、但不知道自己在干什么的新人一样,忠实地把混乱放大十倍,并给你寄来一张天价的API账单。
Agent循环:在给AI开一场毫无意义的会
在很多看似高级的Agent工作流里,往往有这样一个闭环设计:
模型生成初稿 -> 另一个模型检查纠错 -> 发现问题打回重写 -> 如此循环直到通过。
在边界清晰、评估指标明确(比如代码Linting)的场景下,这确实是一套好手艺。但一旦进入真实的业务场景,这套机制往往演变成了一场无效的数字内部会议。
AI之所以在循环里反复试错,通常是因为最初输入的指令和目标根本就是一坨浆糊。于是,Agent只能不断生成、反思、推翻、再生成。它用极其高昂的算力开销,去弥补人类管理者在战略定义上的懒惰。
这有多贵?a16z 披露的数据令人心惊: – 一个同样的代码库迁移任务,如果指令定义得极其精确,AI在合理的工作流中只需要4美元就能完美搞定。 – 但如果丢给一个配置模糊的”自我反思Agent循环”,它会疯狂调用工具,最后烧掉你310美元,而且产出的结果很可能和4美元的版本一模一样。
在Fable 5的首日实测中,同一任务的成本差距达到了惊人的17倍。310美元已经等同于一个普通美国员工一整天的一站式用工成本。
人类喜欢用漫无目的的开会来消费工时,Agent则用反思循环来消费Token。这两者暴露出的组织病灶完全相同:管理者根本没有想清楚问题是什么。
浪费的Token,是新时代的”组织臃肿”
在传统的官僚主义组织里,你会看到一个奇观:流程本是为了解决问题而生的,后来流程自身成了需要维护的庞大资产。一个审批节点会自我繁殖出三个辅助节点,一个中间层为了证明自己的价值,会不断制造只有自己才能协调的复杂性。
在AI系统里,这种”组织膨胀”也正在以极其隐秘的形式重演: – 专门有一个模型负责拆解任务; – 另一个模型负责执行具体的局部子任务; – 第三个模型负责对执行结果进行Review; – 第四个模型则负责评估前三个模型的协同效率。
如果这套架构在设计之初没有严格的Eval(评估体系)进行验证,那它们很可能只是在”彼此生成工作”——用无穷无尽的生成式废话把对方喂饱,顺便吃光你的服务器预算。
人创造了更多的人,Token创造了更多的Token。
未来考核一个技术团队的核心指标,绝对不再是”我们调用了多少大模型API”,而是”每一单位Token究竟产生了多少可验证的业务价值”。
终局判断:管理AI将成为下一阶段唯一的万亿机会
AI真正无可替代的优势只有一个:可扩展性。
过去你几乎无法百分之百复制一个金牌销售的经验,你必须招聘、培训、忍受离职率和执行力偏差。但一套被验证有效的AI工作流,可以在几微秒内复制一万份部署到全球。
但这其中有一个致命的深水区:没有人会心甘情愿、毫无怨言地去培训自己的接班人。
企业最有价值的”隐性知识”通常都在员工的脑子里。销售知道什么时候该让价,客服能听懂投诉背后的潜台词。现在企业推进AI落地,要求员工把这些压箱底的经验毫无保留地整理出来变成上下文喂给大模型,然后美其名曰”提高人机协同效率”。
员工又不是傻子。
中世纪行会用生命保护秘方,现代员工当然也会用信息差来保护自己的岗位安全。没有合理的知识产权分红和重新分配机制,AI转型就注定会被组织内部的政治阻力彻底拖垮。
这也是为什么下一阶段,最伟大的AI公司,未必是又一个推出更强权重的模型大厂,也未必是那些试图干掉一切传统行业的AI套壳软件。
真正的金矿,在于能够帮助传统企业重组工作流、提取隐性知识、并为AI建立硬核评估体系(Eval)的咨询与管理服务。
铁路在19世纪30年代野蛮生长,运力提升了上百倍,直到两列火车相撞,人们才意识到需要划分区域、设置经理、规定职责汇报线,从而诞生了现代企业管理制度。
大模型在过去三年里已经把”智能供给”变成了可以无限扩张的廉价运力。
但智能越泛滥,管理失效的代价就越惨烈。大模型下半场拼的根本不是谁的模型智商更高,拼的是谁能像个铁血CTO一样,把这一万个随时在摸鱼的数字员工管理得井井有条。