9月2日消息，据Wccftech报道，DRAM供应持续吃紧，迫使AI服务商采取非常规手段获取内存资源。谷歌供应链基础设施高级总监尼基尔·切里安（Nikhil Cherian）在近日出席峰会论坛时透露，人工智能产业已迅速由“算力受限”转变为“内存受限”。在单台典型的AI服务器中，高性能内存占其物料清单的成本比例已高达约75％。
切里安表示，为突破内存瓶颈，谷歌正同时从软件和硬件两端协同发力。硬件层面，谷歌拆解退役服务器以回收尚具利用价值的元器件，构建出一套内部循环利用的供应链体系。在某些应用场景下，谷歌不得不重新采用规格较旧的DDR4内存模组，以替代其新型AI服务器原本规划的DDR5模组。谷歌为此设计了专用的硬件转接卡，使DDR4等上一代内存方案能够接入新一代AI服务器。
切里安坦言，谷歌特意将这批退役服务器调回机房，目的就是拆解并回收其中的DDR4内存模组。这一做法反映出当前AI服务器内存供应紧张的严峻程度。为模型推理任务进行针对性优化的TPU8i芯片采用专用分层存储体系，在整机层面依托高速DDR5内存体系结构，专门负责处理数据预处理等任务。此外，每颗TPU 8i芯片均搭载288 GB的HBM3e高带宽内存。
软件层面，这家科技巨头也在持续优化底层函数库、模型架构以及KV缓存压缩算法，竭力降低单位算力下的内存开销。内存资源的稀缺性正在重塑AI基础设施的采购与部署策略，从依赖全新零部件转向循环利用与架构调优并行的模式，这一趋势或将影响整个AI服务器供应链的走向。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
