中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室与中国人工智能产业发展联盟于10月23日联合发布《大模型词元服务性能监测报告（2026年）》。报告显示，2026年6月国内词元日均消耗量约500万亿，是2025年12月的近4倍；同期国内模型服务归一化均价从2025年下半年的6.8元上升至13.46元，涨幅接近一倍。
报告指出，随着大模型技术快速迭代，词元（Token）服务已成为技术走向应用的关键环节。越来越多MaaS（Model as a Service，模型即服务）平台厂商通过公有云API方式供给大模型词元服务，但用户对词元服务性能缺乏直观判断依据，在选型环节面临困难。基于2026年1月至8月的监测数据，报告围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析，并对比了原厂大模型官方平台与DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的性能差异。
性能方面，8月国内各模型平均TPS（每秒输出词元数）达到78.23个/秒，较2025年均值38.25个/秒实现翻倍。但国外典型模型8月TPS均值为112.82个/秒，同样较2025年12月的51.35个/秒提升超过一倍，整体水平仍优于国内。时延方面，国内各模型平均TTFT（首词时延）8月均值达到1.26秒，高于2025年平均值0.78秒；国外典型模型8月TTFT平均值为2.08秒，较4月的1.04秒亦明显上升。报告认为，TTFT上升并非单纯的性能退化，而是与模型参数量增加、上下文长度增加、调用量增加等因素同步发生。
价格是本次报告的另一核心观察点。经历过去两年价格战后，2026年国内外模型服务价格明显回升。国内2025年下半年归一化均价为6.8元，2026年以来均价为13.46元；国外价格仍显著高于国内，2026年以来发布的典型模型平均归一化价格约为117.8元。这意味着国内厂商在经历长期低价竞争后，定价策略正逐步向覆盖推理成本的方向调整。
模型能力配置上，上下文窗口持续扩张。被监测模型中，上下文长度达到1M（100万词元）的模型占比47.8％，200K及以上的合计达95.7％，较2025年底提高超过76个百分点，低于200K的模型占比持续减少。长上下文正从头部模型的差异化能力转变为行业普遍配置。
开源模型的表现值得关注。报告于5月更新四款开源模型的新版本进行监测，结果显示TPS持续提升、TTFT不断压缩。以DeepSeek为例，8月DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的2倍。时延方面，主要模型5月完成换代升级后TTFT普遍出现阶段性上升，随着推理优化措施落地，指标逐步回落至换代前水平。但同一模型在不同平台间的性能分化明显，部分第三方平台性能优于官方平台，同一模型在不同平台间的TPS差距最大可接近一倍。报告认为，各平台在推理加速、优化策略与成本控制上的差异，是造成性能分化的主要原因。
从产业影响看，词元消耗量近4倍的增长表明大模型应用调用规模正快速扩张，而均价回升则反映出服务商在算力成本压力下逐步退出补贴式竞争。对于企业用户而言，同一开源模型在不同MaaS平台上的性能差异接近一倍，意味着选型环节需要将平台推理优化能力纳入评估，而非仅依据模型本身的参数与评测成绩。报告同时明确，下一步将围绕词元服务性能监测持续完善指标体系，为用户选型与产业界优化服务能力提供参考。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
