深度:OpenAI用一颗”辣椒”芯片告诉英伟达,推理算力的护城河没那么深

OpenAI用一颗叫”墨西哥辣椒”的芯片告诉英伟达:推理算力的护城河,没有你想的那么深——CUDA不是城墙,只是一道篱笆。

9个月,16个月研发周期,OpenAI交出了第一颗自研芯片的成绩单。结果让英伟达不太好受。

当地时间8月25日,OpenAI在Hot Chips大会上公布了首款定制推理芯片Jalapeño(墨西哥辣椒)的首批实测性能数据。在基于开源模型GPT-OSS 120B的公开基准测试中,Jalapeño在吞吐、能效、延迟三项核心指标上,全面反超英伟达GB200与GB300。

与非网的评价很直接:作为第一代芯片,Jalapeño打破了”初代芯片无竞争力”的行业惯例,在多个顶级开源模型测试中击败了所有Nvidia、AMD和Google芯片,堪称推理市场的”鲶鱼”。

这件事的分量,远超一颗芯片本身。

第一,范式翻转:从”为芯片选模型”到”为模型造芯片”。过去十年,AI行业的逻辑是先有英伟达的GPU,然后模型团队想办法在上面跑。CUDA生态构建的护城河,本质上是一种路径依赖——开发者学会用CUDA写代码,切换到其他平台的成本太高。但OpenAI的逻辑完全反过来:它知道自己最大的模型怎么推理最高效,于是直接为自己的负载定制芯片。这就像从”买成衣”变成”量体裁衣”——合身程度完全不是一个量级。

SemiAnalysis的报告更是一针见血:CUDA护城河面临实质挑战。过去市场认为英伟达的壁垒在于CUDA软件生态,但Jalapeño的跑分数据表明,当一个公司既懂自己的模型又懂芯片设计时,CUDA的壁垒可以被”绕过”而非”攻克”。你不需要让开发者从CUDA迁移过来,你只需要让他们在自家芯片上获得更好的推理性能。

第二,推理与训练的市场分裂。与非网的分析指出一个关键判断:Jalapeño量产后,OpenAI大概率会把推理工作负载逐步迁移到自研芯片上,训练仍用Blackwell/Rubin。这意味着英伟达不会丢掉全部生意,但会丢掉一块增速最快、体量最大的蛋糕。推理算力的需求量远超训练——一个模型训练一次,但被调用亿次。OpenAI每天处理数十亿次ChatGPT请求,这些推理负载如果迁移到自研芯片上,对英伟达推理业务的冲击是结构性的。

第三,多米诺效应已经开始。OpenAI不是唯一一个自研芯片的AI公司。Google有TPU,Meta有MTIA,Amazon有Trainium和Inferentia,微软有Maia。但OpenAI的特殊性在于:它是全球最大的AI应用提供商,ChatGPT的推理负载本身就是最硬核的验证场景。当Jalapeño证明自研芯片能在自家最大负载上跑赢英伟达,其他大模型公司的决策就变得简单了——自研推理芯片不再是一个可选项,而是一个必选项。

同一天,AWS宣布追加部署200万块英伟达GPU,总规模达300万块。一边是OpenAI自研芯片跑分超越英伟达,一边是AWS疯狂加购英伟达GPU。这不矛盾——训练需要英伟达的绝对性能优势,但推理正在裂变出一个英伟达无法完全垄断的新市场。英伟达的毛利率已经从75%开始下行,预计Q4降到71%。推理市场如果被自研芯片分流,毛利率下行的曲线只会更陡。

黄仁勋在财报电话会上回应OpenAI自研芯片时说,英伟达提供的是”完整AI工厂平台而非单一芯片”。这句话的潜台词是:我不怕你造一颗推理芯片,我的价值在于全套基础设施。但问题是,当每个大客户都开始造自己的推理芯片时,”全套基础设施”的价值就在被一层层剥离。推理是大头,训练是小头;推理被分流,训练虽然还在你手里,但增长的引擎换了主人。

英伟达市值5.07万亿美元,单季营收962亿,数据中心收入890亿。但OpenAI用一颗名叫”墨西哥辣椒”的芯片,在这个看似坚不可摧的数字帝国上,凿出了第一道裂缝。

OpenAI用一颗叫”墨西哥辣椒”的芯片告诉英伟达:推理算力的护城河,没有你想的那么深——CUDA不是城墙,只是一道篱笆。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
比尔·盖茨最新长文:AI过渡期将成人类历史上最剧烈社会转型之?
上一篇 3小时前
从服务的角度看SaaS,我们能看到什么?
下一篇 2021年8月12日 上午10:55

相关推荐

分享本页
返回顶部