日均140万亿Token调用量推动存储架构重构,SSD与NAND加速能力边界扩张

当数据、推理和运营三种因素的变化进一步叠加,存储容量扩张、带宽提升、时延降低、耐久性保障等多重挑战随之袭来,不同存储介质自我能力的提升变得更加紧迫。

在第五届GMIF2026全球存储器行业创新峰会上,与会嘉宾披露的一组数据揭示了AI推理负载对存储基础设施的深层影响。截至今年3月,中国日均Token调用量已突破140万亿。三星电子副总裁、Memory事业部首席技术官Kevin Yoon指出,这一规模是中国国家图书馆全部藏书对应Token量的20倍以上,接近人类历史上所有出版图书总量的6倍。

摩根士丹利执行董事、大中华区半导体分析师颜志天以全球云数据中心资本支出为参照,指出在未计入HBM的情况下,2026年存储占比接近五成,2027年预计进一步升至53%。存储需求的结构性增长,正从训练端向推理侧规模化应用迁移。

Solidigm亚太区销售副总裁倪锦峰将推理负载对存储的压力归纳为三个维度:数据丰富度、推理复杂度和运营持久性。数据丰富度体现为多模态数据来源、形态与更新频率的差异化;推理复杂度则来自模型规模扩大带来的权重与运行时状态增长、上下文延长导致的KV Cache扩张,以及多用户并发请求下的资源占用;运营持久性指向Agent持续运行场景,Dify联合创始人陈璐莎判断,未来企业运行的Agent数量可能从个位数上升至数百个,需24小时待命并承担高并发请求。

这些变化正在推动存储介质的角色重构。SSD过去主要承担大容量与持久化存储职能,如今多家企业从不同维度展开升级。慧荣科技通过主机软件与存储软件栈识别任务类型,由SSD控制器按QoS等级调整资源配置,使同一块SSD响应不同AI负载。闪迪资深产品市场总监张丹则将SSD按与计算单元的距离分为三类:直连GPU的SSD承接热KV等高频访问数据,网络连接GPU的SSD服务计算但可更大规模部署,存储型SSD强调容量并承载低频访问数据。

SSD同时向存储金字塔下层延伸。倪锦峰透露,北美大型互联网公司已开始用大容量QLC SSD替代部分HDD,以减少机房空间占用和功耗开销。HDD阵营亦未停止演进,大数极限设计的PMD在传统机械硬盘基础上通过多路并行、扩大I/O请求队列,结合请求聚合、预取和缓存提升带宽与随机访问能力。

底层NAND介质同样在突破能力边界。三星设计的Z-NAND核心Die基于SLC并集成TSV技术提高读取性能,其架构将操作系统和KV Cache保留在DRAM,大容量读取密集的模型权重放入Z-NAND。北京大学集成电路学院院长蔡一茂介绍,HBF目前存在两条技术路径:从NAND阵列入手缩小尺寸降低读取时延,或借鉴HBM思路增加接口数量提升带宽。他同时指出,缩小阵列会牺牲存储密度、NAND读取时延仍偏高、有限写入寿命难以承受KV Cache频繁更新等问题尚待解决。蔡一茂还提到,北大与燕芯微等合作伙伴正在探索利用NAND阵列直接完成部分存内计算,减少数据在存储与计算单元之间的往返。

数据分层管理逻辑也在发生变化。传统存储层级建立在速度、容量与成本的权衡之上,数据与介质的对应关系相对固定。随着AI带来更多类型数据、同一份数据的访问频率和生命周期随计算过程动态变化,原有的对应关系开始松动。在多位与会嘉宾看来,数据管理正从HBM不足给DRAM、DRAM不足给SSD的兜底式分层,转向系统设计之初的主动分层与运行调度。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
国补后 1499 → 869 元:小米米家净水器 2 官方新低,1200G 大通量 + 7 年 RO 滤芯
上一篇 4小时前
西班牙博物馆用30台Mac mini复刻Cray-1超算,算力达1.3 teraflops
下一篇 3小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部