百度发布ERNIE Evolve：自动研究系统已用于文心5.5 Flash，昆仑芯P800生成速度提至基线623.6%

导读

2026年11月9日，百度文心团队发布技术文章，介绍自动研究系统 ERNIE Evolve。它被定义为：围绕明确目标与约束，持续提出研究方向、开展实验、验证结果并积累经验的系统。与只在给定方向上反复搜索更优实现的方法不同，它同时回答“研究什么”和“如何做好”。

需要说明：这不是一次新基础模型发布，而是一套已用于真实研发的自动研究（以及递归自我迭代，RSI）系统。团队在公开的 AI 研发任务上验证后，把它接入正在开发中的 ERNIE-5.5-Flash 推理效率优化，并给出了生产级验证的收益数字。

双层循环与五种智能体

ERNIE Evolve 用双层循环组织研究：外层决定研究什么，内层负责把一个方向做好。外层根据历史实验和知识资料提出方向，每个方向交给一条研究线（lane）执行；多条研究线并行，每条线维护自己的候选树。内层在研究线里连续迭代，每轮从已有版本出发修改代码，再交给独立的评测和复核。

系统内的关键智能体包括：

• Director 决定下一步研究什么，从经验库和知识库中提取方向并选择起点（可以是原始代码、此前最优或中间版本，也可以是上游主干的最新提交）。
• Selector 负责研究线内每一轮决策，选择起点节点并给出本轮要验证的假设。
• Executor 在隔离环境中按计划修改代码，产出新候选。
• Evaluator 是固定的评测程序，放在被优化仓库之外、对所有智能体不可见，在真实负载上测性能和正确性；超出允许修改范围的改动不进入评测，提升超过噪声阈值才会被接受。
• Reviewer 对照代码改动和评测结果，检查是否偏离本轮方向，以及提升是否来自利用评测漏洞。偏离方向的版本不能成为最优，利用漏洞的版本直接作废。

三项公开任务

团队用 NanoChat AutoResearch、NanoGPT Speedrun 和 SOL-ExecBench 检验系统，分别对应训练算法、训练速度优化和底层算子优化，并称优化结果已在 GitHub 开源。官方对照表如下（粗体为该列最好结果）：

• NanoChat AutoResearch（验证集 BPB，越低越好）：ERNIE Evolve 为 0.8763，社区公开最佳为 0.8878，Recursive 为 0.9109，Hyra-1.0 为 0.9015。
• NanoGPT Speedrun Track 1（达标训练时间）：38.9秒，社区最佳为 39.9秒。
• NanoGPT Speedrun Track 3（达标训练步数）：2590步，社区最佳为 2690步。
• SOL-ExecBench（平均 SOL 分数，越高越好）：0.819，接近榜单第一的 0.827，高于 Recursive 的 0.676 和 Hyra-1.0 的 0.736。

在 NanoChat 上，系统在单卡 5 分钟的固定训练预算内，于神经网络之外加入两个预测分支：一个利用全训练语料的 n-gram 统计，另一个检索与当前上下文相似的训练文档；门控按各分支此前位置的预测表现动态调整混合权重。为控制开销，方案使用不存动量的稀疏优化器管理大型输入表，把 softcap 与交叉熵融合为一个 Triton 算子，并让 CPU 建表与 GPU 训练并行。

NanoGPT Speedrun Track 1 的改进集中在通信重叠、反向传播和输出层梯度计算；Track 3 则把矩阵权重拆分为方向与幅度，并引入基于历史位移的 EMA-Nesterov 外推，同时解决了优化器从内部状态重写权重、从而覆盖直接加在权重上的外推这一实现冲突。SOL-ExecBench 包含来自真实模型的 235 个算子问题；官方榜单发布 7 个多月来已有 700 多名开发者提交近 5 万次。

用于文心 5.5 Flash 的真实优化

把系统接入 ERNIE-5.5-Flash 后，优化目标来自工程师正在推进的需求，评测和正确性检查沿用团队自己的压测和验证流程。文章列出真实任务更难的四点：多数基线已经过专项优化；改动必须进入生产级代码且限定模块；单项收益常与测量噪声同一量级；开发环境是由推理引擎、算子库、硬件适配插件和服务启动脚本组成的大型代码库。

昆仑芯 P800 低时延场景：改动限定在昆仑芯适配插件内，模型和部署方式保持不变。经过四个研究方向，最优版本的生成速度提升至基线的 623.6%，并通过所有正确性检查。第一轮把 mHC 的小算子拼接路径接到昆仑芯原生融合算子，并启用模型自带的多 token 预测层做投机解码，累计至基线的 282.9%；第二轮转向主机调度与同步，累计至 588.8%，其中用通用集合通信替换专用通信的尝试使速度下降 14.0%，该方向随即被放弃；第三轮缓存 MoE 专家计算的索引和工作缓冲区，只比上一轮多提升约 1.4%；第四轮发现通信模式虽设为自动选择、生成请求却仍走普通路径，修正分派逻辑并按实际规模缩小通信缓冲区后，单流生成才用上 DeepEP 低延迟通信，累计至 623.6%。

确定性推理吞吐：强化学习要求同一请求不论如何组批，生成的 token 和 logprob 都必须逐位相同，并与训练端重算结果一致。SGLang 的确定性模式为此固定所有规约顺序。经过约 3 天、3 个研究方向后，最终版本吞吐提升 33.7%，平均每 token 生成时间缩短 26%，首 token 延迟缩短 12%，确定性保持不变。单项收益最大的改动，是把约占每步 GPU 时间 14% 的确定性采样改成按词表切块并行的 Triton 算子。

极致解码速度：服务使用投机解码，工程师此前已压低跨卡通信和算子间空闲。系统共提出 7 个研究方向，其中 3 个带来提升，最终解码速度再提升 14.9%，精度与基线相同。收益来自重新分配 MoE 第一层矩阵乘与路由的计算单元、让 mHC 后处理直接输出下一层所需的 FP8 输入、在输入不足 8 行时改用原生 FP16 矩阵乘，以及把草稿模型每个位置的采样和跨卡归约合并成一个算子等。

展望

团队把当前的推理基础设施优化视为 RSI 在真实 AI 研发中的第一个落点，并计划把同样的研究闭环延伸到训练系统优化、围绕模型能力指标自动提出假设，以及推动评测基准自迭代。文章同时强调，RSI 的扩展必须以可控、可暂停为前提，在明确的目标、权限和资源边界内运行，并接受持续的安全评估和人工监督。

来源

百度文心官网，《ERNIE Evolve：让自动研究走进真实 AI 研发》，2026年11月9日。