沃尔玛全球科技(Walmart Global Tech)方面披露,其已在4700家门店部署多智能体大语言模型工作流,用于夜间批量库存预测。相关实践由Aditya Mulik在技术分享中介绍,重点涉及大规模多智能体LLM工作流在生产环境中的成本效率与容错能力。
据Aditya Mulik介绍,该工作流在落地过程中面临多重生产环境挑战,包括输出不符合预定义模式(schema violations)、跨部门数据不匹配以及网络中断等问题。团队通过MCP grounding与循环智能体(loop agents)等机制加以应对,以提升系统在批量任务中的稳定性与数据一致性。
成本方面,沃尔玛全球科技将云推理支出从每月超过10万美元降至约1万美元。Aditya Mulik表示,这一变化主要来自计费模式的调整,即从预置吞吐单元(PTU)转向按需付费(pay-as-you-go)模式。对于夜间批量库存预测这类具有明显波峰波谷特征的负载,按需付费模式能够减少为峰值容量长期预留资源所带来的浪费。
从行业视角看,多智能体LLM工作流正从实验性项目进入企业核心业务系统,库存预测即是典型的高频、批量、对准确性要求较高的场景。此类部署的关键难点并不只在于模型能力,还在于输出结构的可控性、跨系统数据的对齐,以及推理成本能否支撑规模化运行。沃尔玛全球科技此次披露的实践,为大规模零售场景下的LLM工程化提供了可参考的成本与容错样本。
随着企业对AI工作流的依赖加深,推理成本结构与生产级可靠性将成为决定多智能体方案能否持续扩展的核心变量。沃尔玛全球科技在4700家门店规模上的运行经验,也意味着相关工程方法正在接受真实业务负载的检验。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。