在近日举行的AI基础设施峰会上,英伟达展示了面向AI工厂的DSX MaxLPS功耗调度系统。据英伟达披露的数据,该系统可将每兆瓦token吞吐量最高提升40%。每兆瓦token吞吐量是指数据中心每消耗1兆瓦电力时,AI系统每秒能够生成或处理的token数量。这一指标将功耗纳入计算,更适合衡量AI数据中心在电力受限条件下的实际产出能力。
DSX MaxLPS技术已由Emerald AI集成至Conductor平台,用于电网条件下的数据中心负载编排。Conductor AI平台中的DSX Flex组件可依据电网状态动态调整数据中心的用电需求。据英伟达介绍,该平台已接收200次电网状态信号,相关操作均未要求用户干预,实现了自动化的电力需求响应。
GPU云服务商Lambda参与了该技术的早期测试。Lambda客户数量超过10,000家,其测试集群包含5个机架和19个节点。测试结果显示,在与16个节点满功率运行相同的功率预算下,19个节点的集群吞吐量从约每秒400万个token提升至每秒500万个,增幅达24%,每瓦性能提升23%。这意味着在电力预算不变的前提下,用户可以通过增加节点数量获得更高的token产出。
英伟达还披露了Vera Rubin和Groq 3 LPX机架的相关数据。在相同站点功耗范围内,这两款机架的GPU数量最多可增加40%;在不新增电力线路的条件下,token吞吐量最多可提升35%。在100K上下文、Qwen 3.8 27B工作负载中,Groq 3 LPX达到每位用户每秒2,529个输出token。
多家人工智能企业已参与Vera CPU的早期测试,相关结果显示性能最高提升1.9倍、吞吐量提升73%、查询任务吞吐量提升3.3倍。其中,Perplexity测得SPACE安全沙箱启动速度提升1.9倍,DeepInfra测得编排步骤延迟速度提升2.2倍。Redpanda的测试显示,Vera CPU相比其他CPU延迟降低5.5倍,吞吐量提升73%。Starburst测得查询吞吐量提升3倍,Kinetica测得分析查询性能提升2.7倍。
随着大模型参数规模持续扩大,AI数据中心的电力消耗已成为制约算力扩展的关键瓶颈。传统的数据中心扩容路径往往需要新增电力线路和配套基础设施,周期长、成本高。英伟达此次展示的DSX MaxLPS系统,核心思路是在不增加电力供应的前提下,通过动态调度和功耗优化提升单位电力的token产出效率。这一方向与当前AI基础设施领域对能效比的关注趋势一致。
从行业影响来看,DSX MaxLPS及Conductor平台的电网交互能力,使数据中心从单纯的电力消耗者转变为可参与电网调节的灵活负载。在电力供应紧张或电价波动的区域,这种能力有助于降低运营成本并提升电网稳定性。Lambda的测试结果表明,该技术方案在现有硬件条件下即可带来可观的吞吐量提升,对于中小型GPU云服务商而言,意味着可以在不追加电力投资的情况下提升服务能力。
英伟达未披露DSX MaxLPS系统的具体商用时间表。随着Vera CPU和Groq 3 LPX等新一代产品的测试数据陆续公布,AI工厂的能效竞争正在从单芯片性能转向系统级功耗管理能力的比拼。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。