迈特芯3D-TPU芯片Mega188回片点亮,垂直集成DRAM实现600GB/s带宽

Mega188采用三维堆叠与混合键合工艺,将分布式TPU计算单元与3D DRAM垂直集成,峰值内存带宽达600GB/s。

国内端侧大模型芯片企业迈特芯(MetaChip)近日宣布,其3D-TPU芯片产品Mega188成功实现回片点亮。该芯片面向端侧LLM推理场景,采用三维堆叠与混合键合工艺,将分布式TPU计算单元与3D DRAM垂直集成,集成2GB、4GB、8GB三种内存规格,峰值内存带宽达600GB/s。

在功耗与性能方面,Mega188支持5W低功耗模式,可适配多种终端设备。实测数据显示,该芯片在Qwen3-8B模型上可实现80 TPS的推理速度。迈特芯方面表示,Mega188结合了分布式TPU计算架构与3D DRAM方案,旨在缓解端侧大模型推理中内存带宽受限的瓶颈。

当前端侧大模型部署面临的主要制约之一是内存带宽与功耗的平衡。传统方案中,计算单元与DRAM多采用平面互连,带宽提升受限于物理距离与功耗开销。迈特芯通过三维堆叠将DRAM与计算单元垂直集成,在缩短互连距离的同时提升带宽密度,这一技术路径与业界对近存计算、存算一体的探索方向一致。

迈特芯定位端侧LLM芯片赛道,Mega188的回片点亮意味着该产品从设计阶段进入验证阶段。后续该公司需完成芯片的功能与性能验证、软件工具链适配及客户导入等工作。端侧AI芯片市场竞争正在加剧,如何在带宽、功耗、成本与生态适配之间取得平衡,将决定这类产品能否在终端设备中实现规模化落地。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
高通联合Cirrascale开放Dragonfly AI200推理加速器客户评估
上一篇 34分钟前
苏姿丰首度回应黄仁勋离任英伟达:AMD将聚焦自身业务,远离行业噪音
下一篇 25分钟前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部