AI零帧起手写算子,反超DeepSeek人类手写巅峰:快了9.8%!十三 2026-10-30 19:05:06 来源: 量子位 之前还连登昇腾三榜第一 金磊 发自 凹非寺 量子位 | 公众号 QbitAI 没有源码,没有论文,直接从零开始。
就在今早,ForgeKernel, 一个无人参与的Agent 在无需参考DeepSeek原始实现的情况下,就当着全网的面,把 DeepSeek最新 的 核心算子 写快了 9.8% !并且整个过程的直播,仅仅花了 22.5小时 的时间(从设计算子的角度来看,消耗时间算短的),也引来了不少网友的围观: 具体来说,这个直播的内容是一个Agent在英伟达B200上,超越DeepSeek-V4.1的 FlashMLA Prefill算子 。
FlashMLA是DeepSeek开源的注意力核心算子库,10月20日刚开源的推理框架DeepInfer也把它集成在内;它出自业内公认Infra最强的团队之手,可以说是代表了 人类手写算子的巅峰 。而也正如我们刚才所说,AI拿到的只有算子的数学定义和目标硬件约束,它要 0帧起手 ,通过自进化一轮轮改进。
在这22.5个小时里,每一次改写、每一个性能数字的跳动,就这么水灵灵地摆在了全网观众眼前: 第一版通过了正确性检查,但耗时1834微秒,效率相对较低; 不到4小时,耗时压到593微秒,降幅约67.6%,已从零逼近当前最佳实现的九成; 第7小时前后,一次核心结构突破让它先超过了自己的上一代版本,随后首次超过FlashMLA; 上午9点多,直播结束。最终版本耗时472微秒,FlashMLA为518微秒,快了9.8%。
全程 42 轮迭代,留下 32 个版本,用了1张B200和22个GPU小时;而人类为这个算子写的代码是, 0行 。手写巅峰,就这样被一份人类没写一行代码的算子越过了。
那么这到底是何许Agent?它,正是来自 面壁智能 的算子生成系统 ForgeKernel ;并且在本场直播结束之后,智能进化实验室随即联合OpenBMB社区宣布 开源 。
不过这场直播还并非是ForgeKernel的首次亮相,早在前几天,它就已经famous过一次了。包揽了国产算力三个第一 就在10月27日, 昇腾CANN 官方发文,就“点名”了一下ForgeKernel—— 同时登顶CANNBench 950DT 、 950PR 、 A3 三大硬件榜单!
这三个榜单分别对应的三类昇腾硬件,它们的成绩看点可以说是各有不同。我们先来看下 950DT 这个榜单,这也是三张榜里经济账算得最明显的一张。
ForgeKernel在这张榜上以4010.75分排名第一,领先第二名27.8%;基准加速比1.533×,约为第二名的143%。这就意味着在同等硬件投入下,可用算力增长接近50%,企业的算力采购与部署成本可相应降低约一半。
之所以这个榜单值得关注,是因为950DT是新一代芯片,配套算子库尚在建设初期,人工适配周期长,而ForgeKernel率先完成了适配并登顶。这说明新硬件刚上市,AI就能快速产出高质量算子,芯片从上市到适配好之间的空窗期,正在被大幅压缩。
950PR 则是三张榜里竞争最激烈的一张,前三名的基准加速比都达到了1.3倍: ForgeKernel在这张榜上总分4165.94,同样排名第一;基准加速比1.638×,约为第二名的1.18倍。最后,就是 A3 ,也就是目前广泛使用的昇腾910C。
早在10月15日封榜的CANNBench v1.1中,它就已拿下A3硬件榜第一;v2.0开榜后,这个位置一直没有让出,目前总分4341.16,基准加速比1.898×,约为第二名的1.22倍。在这次直播中,ForgeKernel是跑在英伟达B200上,用的是CUDA,这套生态攒了多年的专家经验;而这三张榜单是在昇腾上跑的,昇腾有自己独立的架构和工具链。
虽然两边的软硬件差别很大,但ForgeKernel却能用同一套系统,在两边都拿到了第一。那么接下来的问题是,它是如何做到的呢?
是无师自通的那种 模型最终能跑多快,很大程度上得看算子。因为同一款模型、同一块芯片,换一套更高效的算子,性能就会拉开明显差距。
而长期以来,高性能算子依赖资深工程师逐个手写调优,周期长、门槛高。 CUDA生态走到今天,靠的是多年的专家积累;而国产芯片每出一代新硬件、每来一个新模型,都要重新适配一遍。
一言以蔽之,人类专家的数量,跟不上芯片和模型的迭代速度。那么此局又该如何破解?
10月27日,ForgeKernel团队与清华大学等机构在arXiv发布了一篇名为JustGoal:With Only a Goal,the AI Baseline Is Above the Expert Kernels的论文。在这篇论文中,研究团队只给模型一个优化目标,不提供任何算子知识,也不规定固定流程,让它自己去写。
结果在B200上,模型在10个算子中的8个跑赢了人类维护的开源库。他们还让同一个模型套上MIT韩松团队参与开发的专用框架KDA-0.5,在单配置优化任务上的平均成绩反而只有JustGoal的0.95×。
也就是说,写算子越来越依赖模型自身的能力,专家预先写好的经验和流程,作用在变小。不过,只给目标也有做不到的地方。
模型擅长调细节,却难以独立设计好整体架构,常常在开局几次尝试中就把路线定死,之后只能在原有架构里微调。 ForgeKernel就是在JustGoal的基础上,专门补这块短板的。
它的做法可以分成三部分: 一是把架构设计和实现能力分离,并把架构设计抽象成里程碑,拆解问题; 二是把每一条实测验证过的硬件经验存进知识库,换一个算子也能接着用; 三是把自己写出的最好版本当作下一轮的对手,一轮轮自进化。而这三部分,刚好可以与我们刚才展示的直播一一对应。
ForgeKernel先超过了自己的上一代版本,接着才超过FlashMLA,这就是自进化。到了后期,它还自己发现Q的突发加载在和KV数据搬运争抢访存资源,于是主动控制Q的请求节奏,又压下2.4%的耗时,这种判断过去要靠资深专家来做。
△ForgeKernel Live 中的 Agent 运行日志