百度披露文心 5.5 Flash 研发技术，引入全新 RSI 技术，用于昆仑芯 P800 推理优化

 　　11 月 9 日，百度文心首次披露 RSI 最新进展，公布参与文心 5.5 Flash 研发的自动研究系统 ERNIE Evolve，其能够围绕目标与约束，自主提出研究方向、开展实验、验证结果并积累经验，既可以持续优化已有路径，也能根据实际效果探索新方向。在 NanoChat AutoResearch 和 NanoGPT Speedrun 两项任务的三个评测指标上，均取得了目前公开验证的 SOTA 表现。目前，ERNIE Evolve 已应用于即将发布的文心 5.5 Flash 推理优化，包括昆仑芯 P800 低时延场景的性能优化、确定性推理吞吐优化及极致解码速度优化。

　　ERNIE Evolve 基准测试表现

　　递归自我改进(Recursive Self-Improvement，简称 RSI)是当前全球 AI 领域的重要探索方向之一，核心理念是让 AI 直接参与自身研发流程，不断优化自身能力，形成自我改进闭环。OpenAI、Anthropic、腾讯、智谱等多家厂商都在探索将 RSI 引入模型研发。

　　ERNIE Evolve 采用双层循环组织研究，外层循环结合历史实验结果和已有知识，提出新的研究方向并安排多条研究线并行探索;内层循环则针对具体方向持续进行代码修改、效果评测和经验沉淀。系统内部由多个智能体分工协作，Director 负责选择研究方向，Selector 负责确定每轮实验的目标和代码起点，Executor 负责修改代码并生成新版本。每轮实验结束后，独立评测程序 Evaluator 负责评测代码性能和实验结果，Reviewer 则进一步检查研究是否偏离目标、是否存在评测漏洞。只有通过评测和复核的改进才能保留。每轮实验的代码改动、结果和经验都会被记录，供后续研究参考。

　　ERNIE Evolve 架构

　　将 ERNIE Evolve 接入文心 5.5 Flash 真实推理优化后，系统在生产环境中持续取得显著收益。

　　· 在昆仑芯 P800 低时延场景优化中，ERNIE Evolve 历时约 168 小时，经过 4 轮方向探索，先后接入原生融合算子并启用投机解码，再对主机调度与同步机制、通信路径进行优化，最优版本的生成速度提升至基线的 623.6%。

　　· 在确定性推理吞吐优化中，ERNIE Evolve 用 3 天时间围绕确定性采样、确定性开关及算子并行策略开展 3 个方向的探索，在严格保持确定性的前提下，最终将吞吐提升至基线的 133.7%，平均每 token 生成时间缩短 26%，首 token 延迟降低 12%。

　　· 在极致解码速度优化中，ERNIE Evolve 累计探索 7 个研究方向，其中 3 个方向通过对 MoE 与 mHC 算子、矩阵乘与调度策略，以及草稿模型关键路径的优化带来有效提升，最终实现推理性能累计提升至基线的 114.9%，精度与基线保持一致。

　　上述改动均已通过文心团队的压测与正确性检查，并完成生产级验证。

　　昆仑芯 P800 低时延场景的性能优化过程

　　确定性推理吞吐的优化过程

　　极致解码速度的优化过程

　　文心技术博客指出，推理基础设施优化是 RSI 在真实研发中的第一个落点。未来，同样的研究闭环将逐步延伸至训练系统优化、模型能力研究和评测体系迭代，推动 AI 自主发现问题、提出假设、设计实验并验证结果。扩展过程将在明确的目标、权限和资源边界内进行，并接受持续的安全评估与人工监督。

　　11 月 5 日，百度已正式开源最新基座模型文心 5.5 Flash Base，该模型在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型 SOTA 表现。接近百度人士透露，文心新模型或将于近期发布。

　　· 技术博客：https://ernie.baidu.com/zh/research/posts/ernie-evolve/