百度文心首次披露RSI进展:ERNIE Evolve已用于文心5.5 Flash推理优化

推理基础设施优化是RSI在真实研发中的第一个落点,未来同样的研究闭环将逐步延伸至训练系统优化、模型能力研究和评测体系迭代。

11月9日,百度文心首次对外披露其在递归自我改进(Recursive Self-Improvement,简称RSI)方向的最新进展,公布了参与文心5.5 Flash研发的自动研究系统ERNIE Evolve。该系统能够围绕既定目标与约束条件,自主提出研究方向、开展实验、验证结果并积累经验,既可以持续优化已有路径,也能根据实际效果探索新方向。在NanoChat AutoResearch和NanoGPT Speedrun两项任务的三个评测指标上,ERNIE Evolve均取得目前公开验证的SOTA表现。

RSI是当前全球AI领域的重要探索方向之一,核心理念是让AI直接参与自身研发流程,不断优化自身能力,形成自我改进闭环。目前OpenAI、Anthropic、腾讯、智谱等多家厂商均在探索将RSI引入模型研发。百度此次披露的ERNIE Evolve,是该方向在国内厂商中较为完整的一次工程化落地展示。

从架构上看,ERNIE Evolve采用双层循环组织研究流程。外层循环结合历史实验结果和已有知识,提出新的研究方向并安排多条研究线并行探索;内层循环则针对具体方向持续进行代码修改、效果评测和经验沉淀。系统内部由多个智能体分工协作:Director负责选择研究方向,Selector负责确定每轮实验的目标和代码起点,Executor负责修改代码并生成新版本。每轮实验结束后,独立评测程序Evaluator负责评测代码性能和实验结果,Reviewer则进一步检查研究是否偏离目标、是否存在评测漏洞。只有通过评测和复核的改进才能保留,每轮实验的代码改动、结果和经验都会被记录,供后续研究参考。

值得关注的是,ERNIE Evolve已接入文心5.5 Flash的真实推理优化流程,并在生产环境中持续取得收益。在昆仑芯P800低时延场景优化中,ERNIE Evolve历时约168小时,经过4轮方向探索,先后接入原生融合算子并启用投机解码,再对主机调度与同步机制、通信路径进行优化,最优版本的生成速度提升至基线的623.6%。在确定性推理吞吐优化中,系统用3天时间围绕确定性采样、确定性开关及算子并行策略开展3个方向的探索,在严格保持确定性的前提下,最终将吞吐提升至基线的133.7%,平均每token生成时间缩短26%,首token延迟降低12%。在极致解码速度优化中,ERNIE Evolve累计探索7个研究方向,其中3个方向通过对MoE与mHC算子、矩阵乘与调度策略以及草稿模型关键路径的优化带来有效提升,最终实现推理性能累计提升至基线的114.9%,精度与基线保持一致。上述改动均已通过文心团队的压测与正确性检查,并完成生产级验证。

文心技术博客指出,推理基础设施优化是RSI在真实研发中的第一个落点。未来,同样的研究闭环将逐步延伸至训练系统优化、模型能力研究和评测体系迭代,推动AI自主发现问题、提出假设、设计实验并验证结果。扩展过程将在明确的目标、权限和资源边界内进行,并接受持续的安全评估与人工监督。

在模型侧,百度已于11月5日正式开源最新基座模型文心5.5 Flash Base。该模型在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型SOTA表现。接近百度人士透露,文心新模型或将于近期发布。

从行业视角看,RSI将AI从被优化的对象转变为参与优化的主体,其价值不仅体现在单点性能提升,更在于研发流程本身的可复用性。ERNIE Evolve在昆仑芯P800上的优化结果表明,国产算力平台与自动研究系统之间存在协同空间。若该闭环后续延伸至训练系统与模型能力研究,大模型研发的迭代周期和人力投入结构可能随之发生变化,相关进展值得持续观察。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
谷歌Firebase Studio将于2027年3月关闭,用户迁移至Antigravity或AI Studio
上一篇 1天前
欧洲物流仓库与数据中心争夺电网接入容量,电力成仓储选址首要变量
下一篇 1天前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部