企服科学:贵模型只干难的活,AI采购进入路由时代

过去两年,模型发布的叙事是「谁更强」;现在第一次变成了「谁更便宜地够用」。

10月27日凌晨,OpenAI发布GPT-6.1 Terra。定价是每百万输入token 1美元、缓存输入0.05美元、输出5美元,比GPT-5.6 Terra和GPT-6.1 Sol低50%。更要紧的是它给出的对照:最高推理强度下,完成每个任务的成本约为Claude Opus 5.5的九分之一;中等强度下,Agents’ Last Exam得分比GPT-5.6 Terra高15个百分点,成本只有后者的约三分之一。几乎同一时间,Cloudflare在AI Gateway上线Auto Router公测:用一个分类器给每个请求的复杂度、模糊性、风险程度、上下文依赖性打分,再决定交给哪个模型;按它自己的基准,任务成功率比Opus 5.5低10个百分点,成本是三分之一。

两条新闻放在一起,行业坐标就变了。过去两年,模型发布的叙事是「谁更强」;现在第一次变成了「谁更便宜地够用」。

第一问:价格战打到今天,比的还是最强吗

先看Terra拿出的硬指标。中等推理强度下,多步骤操作桌面软件的OSWorld 2.1基准,它超过了GPT-5.6 Terra此前的最好成绩,单任务成本还更低;视觉推理基准MMMU-Pro,全强度都超过上一代;事实准确性上,低强度错误率16.7%,上一代是53.6%,最高强度降到4.3%;编程上,最高强度完成Terminal-Bench 4.0任务的成功率50.3%,上一代只有21.5%;速度是老旗舰的3倍以上。OpenAI自己也留了边界:最难的程序任务,仍然建议用Sol或Astra。

这张成绩单的意思不是「新模型全面超过旧模型」,而是「够用区间在变宽」。过去企业买最强模型,是因为中端模型在关键任务上错得离谱;当错误率从53.6%降到16.7%、再降到4.3%,大量任务就从「必须用旗舰」变成了「用中端也行」。一旦「够用」的边界往下走,价格就成了主要变量。

这和2010年代的云计算是同一个剧本。早期大家比谁家机房大、谁家可用区多;后来比的是每核每小时多少钱、冷存储每GB多少钱。模型行业现在走到了第二步:性能曲线在够用区间变平,成本曲线还在陡降。

还有一个结构性变化:模型公司的成本重心正在从训练转向推理。训练是一次性的资本开支,推理是随调用量线性增长的运营成本。当推理成为主要成本,降价就不只是抢客户,而是规模效应的必然结果——谁的推理效率高,谁就敢先降。Terra的定价,本质是把推理效率的进步直接让给了客户。

第二问:企业该买一个模型,还是买一张路由表

传统软件采购的路径是:选型、POC、签三年、按席位付费。AI采购正在变成另一套:先给任务分级,再给每级配一个模型,最后按任务量结算。Cloudflare的Auto Router其实把这张决策表写出来了——复杂度、模糊性、风险程度、上下文依赖性,四个维度决定的不是「哪个模型好」,而是「这个请求配得上多贵的模型」。

其中风险程度最容易被低估。识别一张报销单错了,重跑一次就行;起草一份合同条款错了,可能要赔钱;调用一次生产数据库错了,可能直接停机。同一家公司,不同任务的错误成本差三个数量级,却常常用同一个模型、同一个价格去跑,这本身就是浪费。

所以「路由」不是一个技术名词,是一种采购纪律。它要求企业先回答三个问题:哪些任务错了不要紧,哪些错了要命,哪些任务根本不需要模型。答完这三个问题,模型清单自然会从「一个」变成「三档」,账单也会从「按人头」变成「按任务」。

第三问:这对中国企服意味着什么

美国这一轮的路径很清楚:模型层打价格战,网关层做路由,应用层被挤压。国内的路径不太一样:模型层靠开源和工程优化压成本,比如DeepSeek开源了推理框架DeepInfer,把算子这条链路也放出来;腾讯混元开源同声传译模型Hy-SimulMT,实测响应约3秒,支持实时音色克隆,直接放进自家翻译应用免费提供。两条路线的共同点是:推理成本都在快速下降,差价越来越多地来自「任务怎么分级」,而不是「模型姓什么」。

对国内做企业服务的公司,这意味着两件事。坏消息是,纯套壳应用的空间会被抹平——上游一降价,你的加价理由就没了。好消息是,中间层的机会变大了:模型网关、成本可观测、评测集、行业任务路由,这些活又脏又细,但客户愿意付钱,因为它们直接决定账单。

议价权也在转移。过去客户问「你接了哪个模型」,现在开始问「你怎么保证这个任务用最便宜的模型还不误事」。前一个问题答得好,是集成商;后一个问题答得好,才是服务商。

采购单上要改的三行字

第一行,计费单位。从「席位/月」改成「任务/次」或「百万token」。AI用得越多、按席位收费的供应商越亏,这个矛盾拖两年一定会爆。第二行,验收标准。从「模型能力跑分」改成「任务成功率乘单任务成本」,后者才是CFO能拿去和人力成本对比的数字。第三行,退出条款。多模型路由的前提是能切换,合同锁三年、数据带不走,路由就只是纸面策略。

这三行背后是一个新岗位:模型成本管理员。像当年云上的FinOps一样,他要维护任务分级表、评测集、路由规则和账单看板。没有这个角色,路由会退化成「谁便宜用谁」,然后在一次关键任务上,把前面省下的钱全部赔回去。

边界:路由不是免费的午餐

至少要泼四盆冷水。第一,分类器本身会错,路由错了比不路由更贵。第二,长会话里的风险维度很难持续评估——智能体任务动辄几十轮,前面一个错误决策会影响后面所有步骤,逐请求打分的机制能不能保持一致的判断标准,Cloudflare的实践者自己也在问这个问题。第三,便宜十倍但错一次,可能赔掉省下的全部;高风险任务不能只看单价。第四,锁定没有消失,只是从模型厂商转移到了网关厂商。

还有一条容易被忽略:Terra这类模型的网络安全能力已经达到OpenAI准备框架的「关键级」门槛。越便宜、越能干活的模型,越容易被拿去做不该做的事。企业采购时把价格压到极致,安全评估的预算不能跟着一起压。

落点

可行动的判断只有几条:把自己的任务清单拆成「错了不要紧/错了要赔钱/错了要停机」三层;高价值的两成任务留给最强模型,八成走性价比模型;采购合同从「按席位」改成「按任务」或「按结果」;把评测能力当资产,而不是当一次性的POC。

对创业公司,还有一层现实:既没有能力自建网关,也没有议价权去谈按任务计价。最务实的做法是先把评测集建起来——至少知道自己买的东西,在真实任务上错在哪。

十年后回看,2026年10月可能不是「最强模型发布月」,而是「AI采购从买能力转向买路由」的起点。谁先把自己的任务清单拆开,谁就先拿到下一轮成本红利。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
企服科学:微软给6万人发买断,AI的账单先寄给了员工
上一篇 1小时前
企服科学:SaaStr用一个表单智能体,接下71%的成交
下一篇 28分钟前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部