企服科学:沃尔玛把推理账单砍到十分之一,靠的是换计费

企业AI的分水岭,不是能不能演示,是能不能连续三十天不出人工兜底。

11月10日,沃尔玛全球科技披露了一组在生产环境里跑出来的数字:多智能体大语言模型工作流上线后,覆盖4700家门店的夜间批量库存预测,云推理支出从每月超过10万美元降到约1万美元。相关实践由该公司Aditya Mulik在技术分享中介绍。

先把传播口径校正一下。这不是“AI让推理成本下降了90%”的技术突破,也不是“模型变便宜了”的行业结论。账单下降的直接原因是计费模式换了:从预置吞吐单元(PTU)切换到按需付费(pay-as-you-go)。

换句话说,省下来的九成,不是模型变聪明了,是容量不再按峰值买了。

一、成本账:夜间批处理,最怕为峰值买单

PTU的逻辑是预留:先买一段固定的吞吐能力,不管用不用,钱照付。它的好处是延迟稳定、容量有保障,适合白天那种随时有人调用、峰值不可预测的在线业务。

夜间批量库存预测恰好相反。它的负载曲线很好预测:门店打烊后开始跑,跑完就结束,波峰波谷分明。为这种负载长期预留峰值容量,等于每天有二十多个小时在为空转付费。

按需付费把这段空转砍掉了。10万美元降到1万美元,摊到4700家门店,单店每月大约2美元。这个数字不惊人,但它说明一件事:AI的单位成本,最终取决于负载形状和计费方式,而不是榜单上的模型排名。

换个角度算一遍会更清楚。如果这4700家门店的库存预测仍靠人工,哪怕每家每天只花半小时核对,按美国零售业的时薪折算,一个月的成本也远不止1万美元。AI在这里替代的不是“更高级的分析”,是重复的、可被规则化的核对工作。

这里要提醒一句边界。按需付费不是万能药。如果负载是全天候稳定的高并发,PTU的单位成本反而更低;真正的判断依据是“峰值持续时间”和“峰谷比”,不是“哪种模式更新”。沃尔玛能完成这次切换,是因为它的业务天然是夜间的批处理。

二、工程账:真正的成本在容错,不在token

这次分享里,比成本更值得看的是他们列的三个生产环境问题:输出不符合预定义模式(schema violations)、跨部门数据不匹配、网络中断。

这三个问题,没有一个是“模型不够聪明”。它们全都是系统工程问题。

输出不符合模式,意味着下游系统没法直接用,要么重试、要么人工修,成本立刻回到人力上。跨部门数据不匹配,本质是组织问题:库存、门店、供应链三套台账的口径不一致,模型再强也只能在错误的数据上做正确的计算。网络中断更直接,夜间批处理一旦断在半路,第二天早上的补货就会缺一块。

他们的应对手段是MCP grounding和循环智能体(loop agents)。前者把模型输出锚定在可查的数据源上,减少瞎编;后者让智能体在失败时自己重试、自己校验,而不是把错误原样往下游传递。

这两样东西加起来,才是“能每晚跑完”的前提。企业AI的分水岭,不是能不能演示,是能不能连续三十天不出人工兜底。

把这三类问题折算成人力就更清楚了:晚上跑批、早上修单,一天就要占掉运营团队几个小时。这部分成本从来不写在推理账单上,但它真实存在,而且比token贵得多。

三、规模账:4700家门店意味着什么

4700家门店不是4700个用户。它意味着每天晚上有4700套门店级库存决策要被重算,而且第二天开门就要用上。

库存预测是个很“土”的场景,但它有三个特点:高频、批量、错了要赔钱。缺货丢销售,压货占现金,两边的损失都能直接进损益表。也正因为如此,它比任何聊天机器人都更能检验一套AI工作流到底能不能用。

从行业视角看,多智能体LLM工作流正在从实验项目进入核心业务系统。零售是最先撞上这堵墙的行业之一:门店多、SKU多、数据源杂、对准确性要求还高。沃尔玛把规模、成本和容错三件事同时摆出来,等于给同行提供了一个可对照的样本。

但样本不等于模板。同样的架构搬到别的公司,第一个月大概率会卡在数据对齐上。因为沃尔玛真正难复制的不是模型,是它把门店、仓、供应链的数据口径拉到了一起。

这也是企业AI项目最容易被低估的一笔成本:不是买模型的钱,是把数据拉齐的钱。前者写在采购单上,后者写在两年的项目管理里。

四、这套架构能复制吗

把沃尔玛的做法拆成可复制的部分,其实只有四件事:把任务拆成可校验的步骤、把每一步的输出锚定在可信数据源上、让失败可以重试、把计费方式匹配到负载形状上。

这四件事都不新。真正难的是前置条件:一张口径统一的门店与库存主数据表、一套能追溯每次调用输出去向的日志、一个愿意为夜间批处理排队等资源的调度策略。

所以我不建议把这条新闻理解成“上了多智能体就能省九成”。更准确的理解是:先把数据和计费理清楚,AI才有机会把成本降下来;顺序反了,省下的钱会被返工吃掉。

对CIO来说,这条案例给出的可执行动作有三条。第一,盘一遍自己的推理账单,看有多少是预置容量在闲置;第二,把输出结构校验放进上线门槛,schema 不合规直接拦掉;第三,给批量任务设定“必须跑完”的时间窗,再倒推容量与计费模式。

这三条不需要换模型,只需要换管理方式。也正因为如此,它比任何一次模型发布都更值得抄。

五、真正的信号:企业开始按“每店每月”算账

10万美元和1万美元是总账,单店每月2美元是单位账。单位账才是能进预算会的那张纸。

过去两年,企业评估AI习惯用“准确率提升几个点”“节省多少工时”这类口径。这些指标没法直接进财务模型。一旦换算成“每家门店每月多少美元”,它就能和人工成本、系统运维费放在同一张表上比较。

沃尔玛这次披露的真正价值,是把AI从“技术项目”翻译成了“运营成本科目”。能被财务接住的AI,才会被继续投资。

这也是我为什么说,2026年之后企业AI的竞争,不在模型参数,而在计费颗粒度。

六、风险与边界

第一,按需付费在供给紧张时会失效。算力紧张、限流、排队,按需的优先级通常低于预留,夜间批处理一旦被推到白天,业务价值就打折。

第二,成本下降可能掩盖质量下降。账单从10万美元降到1万美元,如果预测准确率同时掉了两个点,省下的钱可能还不够补一次缺货。公开分享里没有披露准确率变化,这是需要追问的地方。

第三,多智能体的复杂度是复利的。一个智能体出错好排查,五个智能体互相调用,出错路径会成倍增长。循环智能体能兜住一部分,但兜不住设计上的错误。

第四,组织惯性。夜间批处理跑通之后,真正的阻力往往来自门店端:店长信不信这套预测、要不要手动改单。系统能自动生成决策,不代表人能接受被系统安排。

结论很冷静:这次披露的价值,不在于“AI很便宜”,而在于它把企业AI的成本结构拆开给人看——容量、容错、数据对齐,三笔账里,模型只是最小的一笔。

想清楚这一点,比再买一个更大的模型有用得多。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
企服科学:平头哥要上市了,阿里的芯片得自己证明能卖
上一篇 2小时前
成都发布第五代贡嘎人形机器人,称具身智能大脑实现端到端协同
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部