11月11日,华为麒麟官方公众号发文,披露麒麟9050系列芯片搭载的新一代达芬奇架构NPU的技术细节。该NPU支持30B MoE大模型在端侧运行,为业界首个实现该规模大模型入端的方案,具备无需联网、无需等待云端响应的特性。
据官方数据,新一代达芬奇架构NPU性能较前代提升140%,功耗降低66%,支持Transformer引擎、超低功耗感知引擎和CANN异构计算架构。针对30B MoE大模型的端侧部署,该NPU采用多级存算协同优化与低比特量化技术,以缓解端侧算力与内存带宽的约束。
在具体功能层面,新一代NPU支撑多项端侧AI能力,包括感知屏幕的AI屏幕朗读、感知影像的Xmage智拍2.0、感知人眼的AI眼动翻页,以及感知位置的熄屏地图2.0。上述功能均依赖端侧模型推理完成,不涉及云端调用。
麒麟9050系列是首款采用「逻辑折叠」技术的τ芯片。在华为今年10月举行的2026麒麟媒体沟通会上,华为半导体业务无线终端芯片产品管理部部长徐松余表示,该系列芯片将开启未来10年新征程。会议展示的资料显示,华为目标在2031年实现P核频率突破5GHz。
将30B级MoE大模型部署至端侧,对芯片的算力密度、能效比和内存子系统提出较高要求。此次麒麟9050系列公布的技术参数,反映出端侧AI推理正从十亿参数级向更大规模模型演进。这一趋势若在更多终端芯片上落地,将影响云端推理与端侧推理的分工格局,也为端侧AI应用开发者提供更大的模型选择空间。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。