英伟达于11月5日发布技术博文,公布了其Vera CPU在智能体工作负载上的实测数据。该处理器计划于2026年3月16日正式发布。英伟达称,Vera可在同一颗处理器中同时实现业界领先的智能体执行速度和每瓦吞吐量,帮助数据中心在有限电力条件下运行更多智能体。
英伟达在博文中对智能体负载的硬件特征作出界定:与传统生成式AI不同,智能体不仅要生成答案,还需搜索资料、查询数据库、编写和测试代码,并实际执行任务。这些步骤大量依赖CPU,且需要在负责执行的CPU与负责推理的GPU之间反复切换。英伟达据此判断,随着企业规模化部署智能体,数据中心的核心瓶颈正从单纯算力转向“速度、并发能力和能耗”的平衡。
在100兆瓦数据中心场景的对比测试中,英伟达给出了两组数据:Vera CPU相较速度最快的x86 CPU,每瓦可支持的智能体数量为后者的1.6倍;相较能效最高的x86 CPU,智能体速度提升2倍,同时保持领先能效。上述测试以每瓦智能体吞吐量为核心指标,指向的是电力约束下的部署密度问题。
多家早期合作方同步公布了测试结果。Perplexity表示,使用Vera运行智能体编码任务比传统CPU快1.5倍,并计划将其投入生产系统。DeepInfra称,在智能体编排任务中,Vera比最佳x86处理器快至多2.2倍。ClickHouse表示其标准软件无需专门优化即可在176核上接近线性扩展,并登上ClickBench硬件排行榜。
并发场景的数据差异更为明显。Daytona使用Vera在10.8秒内启动1000个智能体沙箱,并在2000个并发沙箱下实现每秒完成12.7个任务,而x86平台完成同一启动过程需要88.4秒。Modal则报告,Vera每核心沙箱吞吐量最高达到同类x86硬件的2倍。
从行业背景看,智能体应用的规模化落地正在改变数据中心的基础设施配比。此前GPU被视为AI负载的绝对核心,CPU更多承担调度与数据搬运角色;而智能体涉及的工具调用、代码执行、沙箱隔离等环节,使CPU的并发处理能力和能效重新成为系统级瓶颈。英伟达以每瓦智能体数量作为核心指标,实际上是将竞争维度从单点算力引向单位电力下的任务吞吐。
Vera CPU定于2026年3月发布,届时其在实际生产环境中的表现,以及能否在x86长期主导的服务器CPU市场形成替代效应,将成为观察智能体基础设施成本结构变化的重要参照。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。