腾讯基础模型部于8月28日发布Hy4 preview大模型，该模型总参数770B、激活参数49B，上下文长度达1M。在Terminal Bench 2.1基准测试中，Hy4 preview得分85.4，位列开源模型第一、全球第三；SWE-bench Multilingual得分82.9，同样位居开源模型首位。发布当天，API排队用户即超过5000人，腾讯WorkBuddy随后对Hy4 preview推理集群进行紧急扩容，但官方表示，受限于高端算力总量与高峰并发集中，仍不排除个别时段继续出现排队情况。
Hy4 preview是腾讯基础模型部成立后推出的首个新模型。今年7月，腾讯将大语言模型部和多模态模型部合并为基础模型部，由姚顺雨统一负责。此前，腾讯的模型研发分散在多个平行部门，各自拥有独立的训练数据、技术框架、研发流程和评测标准，AI Infra、AI Data和数据计算平台分别掌管不同数据。此次合并后，模型研发链路首次实现全流程贯通，Hy4 preview也成为首个完整参与自身研发全过程的模型。
在技术架构层面，Hy4 preview的README中明确标注其灵感来自DeepSeek和GLM。具体而言，注意力模块采用DeepSeek的Gated机制，使用MTP层做投机解码；配置智谱的IndexCache做跨层稀疏索引复用；残差通路采用字节跳动的iHC（identity Hyper-Connections）。腾讯混元团队在技术报告中明确说明了采用这些技术的原因及修改方式。
尽管借鉴了外部技术，Hy4 preview形成了独特的自进化机制。这一机制区别于智谱和DeepSeek的自进化路径。智谱的自进化发生在训练阶段，通过构建“AI研究员”观察真实工程师工作场景并提炼训练数据，配合“AI判卷员”验证题目有效性，实现模型智能水平的提升。DeepSeek的自进化则发生在运行阶段，其DSH架构遵循“一切皆插件”原则，让Agent按需动态组装和拆卸功能模块，实现工具层面的自我改造。
腾讯Hy4 preview的自进化发生在研发流程本身，覆盖训练方法、数据策略、评估体系和底层算子四个环节。混元团队在论文中表示，Hy4 preview第一次全程参与了制造自己的过程。这一设计意味着模型在定义自身的发展方向：先确定“自己应该是什么样”，再朝着该方向推进研发。值得注意的是，三家厂商中唯有腾讯混元将底层算子优化和推理吞吐量提升纳入自进化范畴，这体现了姚顺雨对工程化的重视。
姚顺雨在入职后即着手重建基础设施。他在6月与腾讯集团高级执行副总裁汤道生的对谈中表示，“我们把Infrastructure重建了，无论是预训练还是强化学习”。汤道生此前曾公开承认“算力严重不足拖慢了模型训练与产品发展”。在算力资源受限的背景下，姚顺雨将Co-design方法论引入模型研发全流程。Hy3时期，Co-design主要发生在模型与产品之间，通过CodeBuddy、WorkBuddy的用户反馈回流至模型训练。Hy4 preview则将这一方法论的适用范围扩展至整个模型研发流程。
姚顺雨是语言Agent研究的开创者之一，其代表作ReAct论文于2022年10月发布，发表于ICLR 2023，被评为notable top 5％，引用量超过10000次。ReAct将“推理”和“行动”置于同一prompt模板中交替循环，是当前主流Agent产品如Claude Code、Codex的底层工作原理。其另一代表作Tree of Thoughts（ToT）通过多路径探索增强模型深度思考能力，在关键决策点展开多条思路并评估最优路径。从Hy3到Hy4 preview，姚顺雨的方法论正在逐步渗透至腾讯混元模型的底层架构中。
为应对Hy4 preview发布后的高峰并发，腾讯WorkBuddy已将Hy3的限免使用延长至2026年9月30日23:59，并推荐用户在排队期间切换至Hy3。官方表示将持续动态调配推理资源，但高端算力总量与并发集中的矛盾短期内仍存在。Hy4 preview的开源表现与自进化机制，为国内大模型研发提供了新的技术路径参考。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
