这条新闻我看了两遍。第一遍看的是472微秒对518微秒,第二遍才反应过来:一个叫ForgeKernel的智能体,在无人参与的情况下,把DeepSeek注意力核心算子FlashMLA的Prefill实现重写了一遍,快了9.8%。
事情发生在10月30日至31日,面壁智能做了一场持续22.5小时的公开直播。智能体只拿到两样东西:算子的数学定义,和目标硬件(英伟达B200)的约束。最终版本472微秒,原版518微秒;全程42轮迭代,留下32个版本,消耗22个GPU小时,人类手写代码为零行。
这不是「AI会写代码」,这是AI第一次在自己的底层软件栈上,做完了人类专家的活。
一、22.5小时真正可怕的地方,不是快
算子是大模型运行时反复调用的基础计算模块。矩阵乘法、归一化、注意力,最后都要落到芯片上执行;算子写得好不好,直接决定一块GPU能发挥几成性能。这一层长期是最依赖人类专家经验的环节:既要懂算法,又要懂芯片的存储层级和指令调度。FlashAttention这类深度重构,过去往往要几个月甚至半年才能完成一次迭代。
面壁公布的曲线比最终数字更有信息量:第一版通过正确性检查时是1834微秒,不到4小时压到593微秒,第7小时前后实现核心结构突破、首次跑赢FlashMLA。后半程,智能体自己识别出Q的突发加载与KV数据搬运在争抢访存资源,主动控制Q的请求节奏,又降了2.4%。
最后这一步,才是真正的分水岭。写出一版能跑的代码,是靠模式匹配;看懂访存争抢、调整请求节奏,是性能工程。前者可以靠语料堆,后者靠的是对硬件行为的理解。过去这类判断由资深专家做,现在一个智能体在22.5小时里自己做完了。
2025年初斯坦福的KernelBench给过一个参照:当时最强的推理模型,写出的GPU算子能追平PyTorch基线的不足两成。不到两年,这个智能体已经在英伟达的SOL-ExecBench最难赛道FlashInfer-Bench上排到第一。该评测从124个真实模型里抽出235道CUDA算子题,衡量的是与硬件物理极限的距离,同榜团队包括Databricks、Cursor、Qwen。
把9.8%放回生意里看,它不是一个小数点。大模型推理按卡时租,算子快9.8%,同一张卡在同样时间里就能多跑近一成的请求;放到万卡集群上,省下来的不是电费,是排队时间和扩容节奏。过去这类优化靠人堆,一个团队一年啃几个核心算子;现在一个智能体22.5小时交一版,迭代频率从「季度」变成「天」。算力生意的成本结构,会被这种迭代速度改写。
二、对国产芯片,这件事比榜单更重要
ForgeKernel同时登顶了华为昇腾CANNBench的950DT、950PR、A3三张硬件榜单,其中950DT是华为今年新推出的芯片,配套算子库还在建设初期。按10月27日榜单数据,它的总分领先第二名37.1%。
跨平台迁移时,它只把性能分析工具从NCU换成msprof,新芯片需要的硬件知识由模型在目标芯片上边测边攒。这句话听起来轻,但对国产芯片是重锤:算子适配长期受制于专家数量与迭代速度,一款新芯片流片之后,软件栈往往要追一两年。自动化算子生成如果能在多硬件平台复用,适配就从「专家项目」变成「可复制的流程」。
这也是为什么面壁选择开源。ForgeKernel已经联合OpenBMB社区开放,论文挂网,并接入训练框架。它开源的不是一个算子,是一套「让智能体自己找性能上限」的方法。对闭源工具链来说,这比多一个跑分榜第一更难对付。
面壁过去以端侧模型见长,这次把ForgeKernel开源,等于把「算子工程师」的能力做成公共品。对它自己,这是从模型公司向工具链公司延伸;对芯片厂商,这是多了一条不依赖原厂软件团队的适配路径;对云厂商,这意味着算子层的差异化会被压缩,竞争往集群调度、模型服务和行业方案上移。开源不是慈善,是把单点技术变成生态入口。
三、人的位置,往哪里挪
我不认为这意味着算子工程师要失业。更准确的说法是:算子工程师的工作被拆成了两半,一半在贬值,一半在升值。
贬值的是「把已知结构写成代码」。升值的是「定义问题、设定约束、判断结果能不能用」。ForgeKernel再强,也要有人告诉它优化哪个算子、目标硬件是什么、正确性标准在哪、数值误差允许多少、什么场景不能牺牲稳定性。这些判断,模型目前还给不出。
但反过来,企业也要接受一个现实:当「会写算子」这件事被自动化,算子能力的稀缺性就不再来自人手,而来自流程。谁能把「定义—生成—验证—上线」这条链路跑通,谁就能把芯片的软件栈迭代速度提上来。芯片竞争的下半场,可能不在流片,而在谁能更快把硬件喂给模型去试。
企业真正要改的,是研发流程。过去算子优化是「立项—排期—专家攻坚—回归测试」,现在可以变成「定义目标—让智能体跑—人来验收」。这不是把人换掉,而是把人的时间从写代码挪到定标准和做验收。谁先改流程,谁先吃到这9.8%。
当然,别急着把22.5小时当成万能证明。它优化的是一个算子,跑在B200和昇腾上,消耗22个GPU小时;真实生产还要过数值稳定性、边界case、长尾算子和长期维护这几关。跑赢一次是里程碑,接管全部是另一回事。
但方向已经很清楚:AI不再只是被优化的对象,它开始优化自己的底座。当AI能改自己的底座,工程师真正要守的,不是代码,是判断什么值得被优化。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。