机器智能的价格持续走低,但生产机器智能的物理系统的账单却在不断攀升。对服务商定价和能力基准的分析显示,自2022年底以来,达到GPT-3.5或早期GPT-4性能水平的成本已下降数十倍至数百倍。在部分跟踪序列中,对于固定能力阈值,降幅超过280倍。提供可比结果的通用模型,每百万token的成本现在通常低于1美元。中端产品20%至80%的频繁降价已成为常态。
与此同时,最大的云和科技公司已多次上调资本支出预测。头部服务商2026年的合计支出目前介于7000亿美元至8000亿美元以上,且预计还有进一步上调空间。资金正流向数据中心建设、先进处理器、高带宽内存、网络设备、电力基础设施和冷却系统。
这两个趋势相互关联。当单位能力成本下降时,经济上可行的使用场景规模就会扩大。这一模式最早由19世纪经济学家威廉·斯坦利·杰文斯在更高效蒸汽机与煤炭总消耗量上升的案例中指出。在当前情况下,推理成本的降低使持续性、多步骤的系统变得切实可行。
这些智能体架构并不止步于单一答案。它们会规划、调用外部工具、检查中间结果、纠正错误并进行迭代。来自聚合平台的使用数据显示,智能体驱动的token量增长速度快于人类发起的流量数倍,在近期的测量中甚至已超过后者。以这种方式完成给定任务所需的token量,可能比简单聊天交互多出5至30倍,在某些配置下倍数更高。研究估计,到本十年末,智能体活动可能将整体token吞吐量放大数倍。
因此,单位价格的下降并未减少对生成智能所需资源的总需求,反而增加了需求。瓶颈约束已沿供应链移动。早期的短缺集中在高端处理器上,随后注意力转向高带宽内存以及将逻辑芯片与内存堆栈集成的先进封装方法。封装产能已扩大数倍,但仍被大量预订。高带宽内存的产出基本已承诺至2026年及以后。在多个地区,电力供应和电网接入已成为限制因素。随着机架密度上升,冷却系统正转向液冷方案。
价值往往沉淀在供给扩张最慢的地方。通用模型智能本身已变得更加竞争激烈且对价格敏感。那些难以被快速复制的回报,出现在无法仅靠软件加速生产的物理资产中,或出现在运营层面。推理成本的持续下降,正在将AI的采用从实验性项目推向大规模生产环境,这反过来又推动了对底层基础设施的更大投入。
这一趋势对行业格局的影响正在显现。具备大规模资本开支能力的头部云厂商在竞争中占据更有利位置,而中小型服务商则面临更大的成本压力。同时,供应链上游的芯片制造商、内存厂商和封装服务商受益于持续增长的需求,但产能扩张的周期性和技术迭代的不确定性,也为行业带来了新的挑战。随着智能体应用的普及和token消耗量的指数级增长,AI基础设施的投资周期预计将在未来数年保持高位。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。