据韩媒 ZDNET Korea 报道，英伟达下一代 Groq LPU AI 推理加速器芯片有望采用基于 TSV（硅通孔）工艺的 3D 堆叠 DRAM 方案，放弃当前一代产品所依赖的大容量 SRAM 缓存设计。
Groq LPU 是面向 AI 推理场景的专用加速芯片，当前一代产品通过集成大容量 SRAM 提供快速解码输出，在推理时延上具备一定优势。但 SRAM 的固有局限在于单位面积容量较小，且随制程升级带来的密度收益有限，难以支撑大型模型对片上存储的需求，也制约了芯片的迭代空间。转向 3D 堆叠 DRAM 后，芯片有望在有限面积内获得更高的存储容量与带宽，从而改善其在大型模型推理任务中的表现。
这一技术路线调整与行业动向形成呼应。同样采用大 SRAM 技术路线的 Cerebras 此前已预告，其未来的 CS-6 晶圆级芯片将实现 3D 垂直集成 DRAM。两家厂商相继从 SRAM 转向 3D 堆叠 DRAM，反映出 AI 推理芯片在存储架构上正朝着更高密度、更高带宽的方向演进。
从产业层面看，TSV 3D 堆叠 DRAM 方案的引入将进一步提升先进封装环节的价值量，对存储厂商与封装代工的协同能力提出更高要求。对英伟达而言，Groq LPU 存储架构的调整，也意味着其在推理芯片产品线上的技术布局正在随模型规模的增长而持续演化。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
