大模型吞不下应用层:90%的企业AI场景已经不需要最强模型
大模型吞不下应用层:90%的企业AI场景已经不需要最强模型
企业AI应用领域正在发生一次极其隐秘但极其深刻的权力反转。
在过去两年里,应用层创业者最致命的焦虑是:“大模型如果一直变强,会不会把应用层全吃了?”
微软直接把 Office 塞进 Copilot;OpenAI 连续推出各种套壳助手;看起来应用层除了调用 API 之外毫无壁垒,似乎很快就会被底层模型公司降维打击。
但 70 亿美元的 AI 搜索巨头 Glean 创始人 Arvind Jain 最近给出了一个极其清醒的判断:OpenAI 和 Anthropic 吃不下真正的企业应用层。因为模型已经商品化,而 90% 以上的企业应用场景,根本不再需要追求最强模型。
—
毒药一:上下文工程,才是大模型吞不下的骨头
很多企业高管天真地以为,大模型落地就像把 API 接上公司所有的 Notion、Slack 和数据仓库。模型足够聪明,自然能看懂公司的运行规律。
现实情况是:只要没有进行深度重塑,外部模型直接读取企业数据往往会引发灾难。
大企业内部的系统极度混乱且割裂,同一个客体在销售库里叫“账户”,在财务库里叫“主体”,在交付部门又是一串无规则的项目代码。
大模型虽然有阅读能力,但它在没有指引的情况下,只能通过“暴力搜索”从海量材料中拼凑上下文。这会导致: 1. 速度奇慢:时间全耗在读取无用信息上; 2. 账单惊人:高昂的 Token 被白白消耗在数据搬运中。
大模型厂商卖的是“通用大脑”,但他们没办法代替企业去把那一万个割裂的上下文、隐性工作流、企业权限图谱给理顺。
这个脏活、累活、需要深入企业毛细血管的工程,就是应用层公司无法被替代的“上下文护城河”。
毒药二:模型商品化退潮,90%的场景只为“足够好”买单
对于一个企业的日常业务(比如写一封常规销售邮件、生成一份会议纪要、甚至进行简单的日志分类),你需要调用世界上最贵的 Claude Fable 5 吗?
答案是:绝对不需要。
企业老板不是投资人,他们不看基准跑分,只关心“结果是否足够好”以及“成本是否足够便宜”。
当开源模型(比如最近登顶前端的 Kimi K3)以极低的价格提供几乎不输闭源大模型的垂类能力时,前沿模型的溢价逻辑就崩塌了。
Glean 的工程设计代表了未来的主流: – 简单的场景直接热插拔到免费或者极便宜的开源模型; – 只有遇到高难度的分析推理时,才把请求路由到昂贵的闭源大模型。
在这种“多模型编排”架构里,底层模型正在变成可以随时被替换的水电煤,而负责调度、安全网关、权限防线和上下文组装的“应用路由层”,才是真正锁死用户预算的平台级入口。
Kate 的立场:别把降本当成 AI 唯一的目标
如果企业只想着靠 AI “干掉员工来降本”,它的商业天花板在第一天就被焊死了。
代码自动生成率可以达到 100%,但这并不意味着软件开发速度能翻倍。因为写代码往往是整个链路里最省时间的一环,真正的瓶颈在于架构审计、测试、安全校验与部署。
AI 不会凭空消灭流程的瓶颈,它只会把瓶颈推向下一个环节。
如果你的竞争对手: – 用 AI 来降本裁员,拼命缩减编制,只求用最少的人维持现状; – 而另一家公司维持规模,用 AI 把人均产出和业务触角扩大了 10 倍。
长期来看,后者会以绝对的规模和创新优势把前者彻底踢出局。
AI 时代真正的竞争力,从来不是“你用 AI 节省了多少算力开支”,而是“你的人在驾驭 AI 后,做出了哪些以前想都不敢想的业务增量”。
应用层创业者不用再为“底层模型变强”而发抖。把你们的精力从套壳和做接口,转移到死磕企业内部的权限流、业务本体图谱以及真实的工作流交付上。
大模型吞不下这一层,因为它嫌这里太脏,也因为这里才是离钱最近的地方。