OpenAI自研推理芯片Jalapeño性能数据公布 每瓦AI吞吐量较英伟达GB300最高提升1.9倍

OpenAI表示,Jalapeño在运行GPT-OSS 120B时,每千瓦的峰值吞吐量比GB200系统高出约1.9倍。

OpenAI于8月25日发布博文,首次公开其自研推理芯片Jalapeño的性能测试数据。根据半导体研究公司SemiAnalysis开发的公共基准测试工具InferenceX的测试结果,该芯片在每瓦AI吞吐量方面较英伟达GB200和GB300系统有显著提升,提升幅度在1.5至1.9倍之间。

测试覆盖了GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款大语言模型。数据显示,Jalapeño在运行GPT-OSS 120B时,每千瓦峰值吞吐量比GB200系统高出约1.9倍;在DeepSeek R1上,每瓦性能比GB300高出约1.7倍;在Kimi K2.5上,每瓦性能比GB300高出约1.5倍。端到端延迟方面,Jalapeño约为对比系统的28%至59%。该芯片额定功率为700瓦,但在测试工作负载期间持续功耗保持在550瓦或以下。

Jalapeño是OpenAI首款自研AI推理芯片,由OpenAI与博通合作开发,台积电采用3nm制程代工制造,于2026年6月24日首次对外展示。该芯片为ASIC专用集成电路,采用脉动阵列架构,配备HBM高带宽内存,专为大语言模型推理场景设计,不用于模型训练。芯片及配套服务器系统均不会对外销售,仅供OpenAI内部使用,旨在降低自身GPU采购和算力运营成本。

OpenAI硬件负责人Richard Ho领导了该芯片的研发,他此前在Google工作近九年,是Cloud TPU项目的核心工程师。Jalapeño从架构设计到完成流片仅耗时约9个月,OpenAI称这是高性能先进半导体领域有史以来最快的ASIC开发周期之一。OpenAI自身的AI模型也深度参与了芯片设计流程,帮助加速设计优化。

目前第二代Jalapeño芯片已进入后期开发阶段,预计未来数月内完成流片;第三代芯片已启动概念设计。OpenAI计划于2026年年底前小规模部署Jalapeño,2027年逐步扩大部署规模。

值得注意的是,Jalapeño此次测试对比的对象为英伟达GB200和GB300系统,尚未与英伟达最新一代Vera Rubin芯片进行对比测试。OpenAI表示英伟达仍是其重要合作伙伴,未来将持续采用多供应商策略以满足庞大的算力需求。

从行业视角看,OpenAI自研芯片的落地标志着大模型厂商向上游硬件延伸的趋势进一步加深。对于依赖外部GPU供应的大模型企业而言,自研推理芯片能够在特定工作负载下实现更高的能效比,从而降低长期运营成本。Jalapeño的性能数据表明,针对特定模型架构优化的专用芯片在推理场景中具备与通用加速器竞争的能力,这一路径或将为其他大型AI企业提供参考。

不过,Jalapeño目前仍处于早期部署阶段,其实际生产环境中的表现、大规模集群的稳定性以及与现有软件生态的兼容性尚待验证。OpenAI计划在2026年底前小规模部署该芯片,届时将能获得更多实际运行数据。多供应商策略的推进节奏,也将影响OpenAI整体算力成本结构的变化。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
依视路陆逊梯卡增持尼康股份至19.61%,逼近日本外资持股法律上限
上一篇 4小时前
英伟达RTX Spark新增支持五款游戏 原生适配EA Javelin反作弊系统
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部