博帝(Patriot)于11月19日宣布推出AI Matrix系列DDR5内存与PCIe M.2 2280 NVMe SSD,产品定位为端侧运行大语言模型的存储与内存解决方案。该系列依据模型参数规模划分为PRO、Mid、Entry三个档位,分别对应不同量级的本地推理需求。
PRO档面向34B至70B参数模型,包含AI Matrix MS560 SSD与AI Matrix MD57N DRAM两款产品。MS560采用PCIe Gen 5 x4接口,提供1TB、2TB、4TB三种容量,其中4TB版本顺序读取和写入速度最高分别为14000MB/s和11000MB/s。MD57N为DDR5内存,超频状态下速度最高可达6000MT/s,提供64GB(2×32GB)UDIMM套装。
Mid档适用于14B至34B参数模型,包括AI Matrix MS450 SSD与AI Matrix MD55N DRAM。MS450采用PCIe Gen 4 x4接口,容量覆盖1TB至4TB,顺序读取和写入速度最高分别为5000MB/s和4500MB/s。MD55N内存超频速度同样最高可达6000MT/s,提供32GB(2×16GB)套装。
Entry档对应7B至14B参数模型,包含AI Matrix MS350 SSD以及MD35N、MD34N两款DDR5内存。MS350采用PCIe Gen 3 x4接口,提供512GB、1TB、2TB容量版本,顺序读取和写入速度最高分别为3000MB/s和2000MB/s。MD35N与MD34N内存速度为5600MT/s,提供32GB(2×16GB)套装。
随着大语言模型向终端设备下沉,本地推理对内存容量与存储带宽提出了更高要求。模型参数规模越大,加载与推理过程中对读写性能的依赖越明显,存储厂商开始针对这一场景推出按模型规模分级的硬件组合。博帝此次将SSD与内存打包为统一产品系列,并直接以可运行的模型参数区间作为选购依据,反映出端侧AI硬件正从通用配件向场景化配置演进。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。