蚂蚁百灵于10月15日宣布开源Ling-3.1-flash模型。该模型总参数约560B，每个Token激活约25B，最高支持1M上下文长度。在Artificial Analysis的公开评测中，Ling-3.1-flash的智能指数为41，输出速度约为每秒210 Token。
针对本地部署场景，团队对routed experts采用MXFP4量化，dense层保持block-FP8，使权重占用从约534GB降至292GB。在对应的Hopper GPU测试配置中，服务部署由8卡降至4卡，让具备服务器级GPU的团队能够以更少卡数运行模型。实际需求仍随上下文、并发量和服务配置而变。
在长上下文处理方面，团队提供了长上下文并行推理方案（PCP / DCP）。工具调用方面加强了对JSON Schema的支持，便于与现有业务接口对接。企业知识问答和办公助手类应用通常需要先读取较长资料，同时用户期望尽快获得回复。团队通过算子融合与DSpark投机解码减少推理开销：在平均输入约25.47K Token、输出约224 Token、缓存命中率为76％的模拟生产请求中，8卡Hopper配置下的平均首Token时间为604毫秒，相邻输出Token平均间隔为3.28毫秒，为长资料输入后的交互响应提供了测试参考。
对于持续提供服务的业务系统，还需在固定GPU预算内评估单实例能承接的请求量。在平均输入约8.5K Token、输出约800 Token的4卡Hopper吞吐测试中，模型达到约1.36 QPS，同时满足首Token时间P50小于3秒、相邻输出Token间隔P90小于70毫秒的测试约束，为自有部署的容量规划提供了参考数据。
在线体验方面，Ling-3.1-flash目前提供限时2.5折优惠。OpenRouter美元计价为：输入0.075美元，输出0.225美元，缓存读取0.015美元。Ling Studio人民币计价为：输入0.5元，输出1.5元，缓存读取0.1元。模型已在Hugging Face和ModelScope平台开源。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
