微软当地时间10月15日宣布,已完成新一代SOTA基础模型MAI-Base-2的预训练工作。该模型在性能上强于所有参与对比测试的开源权重模型。MAI-Base-2总参数规模达2.8T,活跃参数规模80B,在6000个NVIDIA GB200 GPU上历经38天训练完成。
根据微软披露的技术数据,MAI-Base-2在整个训练过程中的平均浮点算力利用率为21%,有效吞吐量为89%。微软方面表示,该模型的预训练算力效率达到DeepSeek-V4-Pro-Base的4至12倍。这一效率指标意味着在同等算力投入下,MAI-Base-2能够完成更多的有效训练量。
微软将MAI-Base-2成功预训练的关键归结为三项举措:科学规模化、模型-基础设施协同设计以及数据规模化。其中,模型-基础设施协同设计指向的是模型架构与底层算力基础设施之间的深度适配,这一思路在当前大规模模型训练中正变得愈发重要。
值得注意的是,微软在完善MAI-Base-2的同时,已启动下一代模型MAI-Base-3的准备工作。此前微软曾对外表示,其自研模型仅凭OpenAI同类产品四分之一的算力就实现了性能超越,此次MAI-Base-2的预训练完成进一步印证了微软在基础模型自研路径上的持续投入。
从行业视角看,微软此次公布的算力效率数据反映出大模型预训练竞赛正从单纯的参数规模扩张转向效率优化。在GPU供应仍存不确定性的背景下,如何以更少算力实现更强性能,已成为头部厂商的核心竞争维度。MAI-Base-2的后续微调、评测及产品化落地进展,将决定这一效率优势能否转化为实际的产品竞争力。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。