美团龙猫开源LongCat-2.5模型,总参数1.6万亿支持百万上下文

该模型采用MIT协议,支持商用推理部署与二次训练,无需额外授权,是面向长程智能体任务的原生多模态模型。

11月9日,美团宣布其龙猫团队研发的LongCat-2.5模型正式开源。该模型于11月2日首次发布,定位为面向长程智能体任务的原生多模态模型,此次开源采用MIT协议,支持商用推理部署与二次训练,无需额外授权。

从参数规模看,LongCat-2.5总参数达1.6万亿,每个token激活约480亿参数,支持一百万上下文长度。这一配置使其能够处理复杂代码库开发、完整项目构建、Visual Coding与专业办公等场景中的长程任务,端到端交付能力较此前版本有明显提升。

LongCat-2.5的核心技术特征在于视觉与文本的统一处理架构。模型将视觉信号表示为多层级离散token,与文本一样由主干模型统一处理,而非采用外挂视觉模块的方式。具体实现上,模型对原生分辨率视觉特征做残差向量量化,逐级补足细节;视觉token可离线预计算并缓存,减少在线计算量,同时使分布式训练负载更均衡;视觉码本与主干联合训练,视觉与文本共享同一套主干参数,在同一语义空间内协同完成视觉理解与代码生成。这一视觉表征层的改造,是模型在Visual Coding任务中支持创意设计、3D等场景的能力来源。

在推理效率方面,LongCat-2.5采用W4A4高效推理方案,将专家权重与激活同时量化到4 bit,并通过原生INT4矩阵乘法单元执行计算。针对显存与带宽受限的国产算力芯片,团队在模型架构、芯片适配与部署策略上进行了深度协同优化,以降低模型在国产硬件环境下的部署门槛。

美团龙猫团队此次选择MIT协议开源,在商用许可上给予较大自由度,企业用户可直接将模型用于推理部署或在此基础上进行二次训练。目前模型权重已在Hugging Face平台开放下载,技术博客与API平台同步上线,开发者可通过LongCat平台调用相关能力。

从行业角度看,万亿级参数模型的开源案例仍然有限,LongCat-2.5的开放为长程智能体与多模态代码生成方向提供了新的基座选择。其对国产算力芯片的适配优化,也反映出国内大模型团队在算力约束条件下推进模型落地的现实路径。随着模型权重与API的同步开放,后续其在企业开发场景中的实际表现与生态采用情况值得持续观察。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
179 → 123 元:小米智能摄像机 3 国补新低,500 万像素、6 种 AI 灵敏检测
上一篇 2小时前
律所客户使用AI订阅工具或构成执业风险
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部