国内端侧大模型芯片企业迈特芯(MetaChip)近日宣布,其3D-TPU芯片产品Mega188成功实现回片点亮。该芯片面向端侧LLM推理场景,采用三维堆叠与混合键合工艺,将分布式TPU计算单元与3D DRAM垂直集成,集成2GB、4GB、8GB三种内存规格,峰值内存带宽达600GB/s。
在功耗与性能方面,Mega188支持5W低功耗模式,可适配多种终端设备。实测数据显示,该芯片在Qwen3-8B模型上可实现80 TPS的推理速度。迈特芯方面表示,Mega188结合了分布式TPU计算架构与3D DRAM方案,旨在缓解端侧大模型推理中内存带宽受限的瓶颈。
当前端侧大模型部署面临的主要制约之一是内存带宽与功耗的平衡。传统方案中,计算单元与DRAM多采用平面互连,带宽提升受限于物理距离与功耗开销。迈特芯通过三维堆叠将DRAM与计算单元垂直集成,在缩短互连距离的同时提升带宽密度,这一技术路径与业界对近存计算、存算一体的探索方向一致。
迈特芯定位端侧LLM芯片赛道,Mega188的回片点亮意味着该产品从设计阶段进入验证阶段。后续该公司需完成芯片的功能与性能验证、软件工具链适配及客户导入等工作。端侧AI芯片市场竞争正在加剧,如何在带宽、功耗、成本与生态适配之间取得平衡,将决定这类产品能否在终端设备中实现规模化落地。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。