面壁智能
-
面壁智能发布端侧多模态大模型 MiniCPM-V 4.7,35B-A3B 版本以 3GB 内存实现 13+ token/s 解码
35B-A3B 版本是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。
35B-A3B 版本是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。