美团发布1.6万亿参数大模型LongCat-2.5,全程基于国产算力训练

LongCat-2.5延续了此前LongCat系列模型的研发方向,全程在国产算力上训练,是目前国产算力上完成的最大训练任务。

11月2日,美团发布新一代大模型LongCat-2.5。该模型为面向长程智能体任务的原生多模态模型,总参数规模达1.6万亿,全程在国产算力上完成训练。美团方面表示,这是目前国产算力上完成的最大规模训练任务。

从公开信息看,LongCat-2.5延续了LongCat系列模型的研发方向,定位并非通用对话场景,而是长程智能体任务。所谓长程任务,通常指需要多步骤规划、跨工具调用与较长上下文维持的复杂任务流程,对模型的推理稳定性、上下文管理能力和多模态信息处理能力提出更高要求。原生多模态意味着模型在训练阶段即融合文本、图像等多种模态数据,而非在语言模型基础上外挂视觉模块。

1.6万亿的总参数规模,使LongCat-2.5进入当前国内大模型参数量的头部区间。更值得关注的是训练算力来源。当前国内头部大模型厂商的训练普遍依赖进口GPU集群,而美团此次强调全程在国产算力上训练,且称其为国产算力上完成的最大训练任务,这一表述指向国产AI芯片与配套软件栈在大规模训练场景中的实际可用性。

大规模模型训练对算力的要求不只在单卡性能,更在于集群互联、通信效率、训练框架与算子库的成熟度,以及长时间训练过程中的稳定性。万卡级乃至更大规模集群在国产芯片上跑通完整训练流程,需要芯片厂商、框架层与模型团队协同解决精度对齐、故障恢复、并行策略适配等一系列工程问题。美团未披露具体使用的芯片型号、集群规模及训练时长等细节。

美团在大模型上的投入始于2023年,LongCat系列已迭代多个版本。作为一家以本地生活服务为主业的公司,美团的大模型研发与其业务场景存在关联:智能体任务能力可应用于商家运营、履约调度、客服等环节的自动化处理。不过,此次发布并未同步披露模型的开源计划或对外API开放安排。

从行业层面看,国产算力训练万亿参数级模型此前已有零星案例,但公开确认完成的最大训练任务规模多在千亿参数级别。若LongCat-2.5的训练细节后续得到进一步披露,将为国产算力在大模型训练中的实际承载能力提供一个可参照的样本。国产芯片能否在训练侧形成对进口方案的实质性替代,仍取决于集群规模上限、训练成本与生态工具链的完善程度,这些指标有待更多实际训练案例验证。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
首批FDE从业者生存现状:报价从3000元到800万元,AI落地交付市场标准缺失
上一篇 9小时前
Pyra推出Prime AI Visibility基准工具,可识别AI品牌回答中的事实错误
下一篇 8小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部