EvoStage如何用“阶段性设计”征服工业级难题——大模型进化论学会“分步走”
从EoH的“思想+代码”协同进化,到EvoX/AdaEvolve的“让搜索策略也进化”,我们见证了“大模型进化论”的不断迭代。今天要介绍的EvoStage,让大模型学会像人类专家一样分阶段设计算法,并在芯片设计领域打破了历史纪录。
还记得我们前两期聊过的“大模型进化论”吗?从EoH[1]让LLM同时进化“思想”与“代码”,到EvoX[2]和AdaEvolve[3]让“搜索策略”本身也参与进化,这套“LLM+进化算法”的组合拳,正在以前所未有的方式自动化地设计算法。但无论是EoH还是EvoX,它们都采用了一种“黑盒”模式:LLM一次性生成整个算法代码,然后等待最终的评估结果(一个分数)。这就像让一个学生写完一整篇论文后,才告诉他写得怎么样。在面对极其复杂、评估成本极高的工业问题时,这种模式就显得力不从心了。
为了解决这个痛点,来自南京大学和华为诺亚方舟实验室的研究团队,提出了一种全新的进化范式——EvoStage (Evolutionary Stagewise Algorithm Design)[4]。

图注:EvoStage框架概览。它将算法设计分解为多个阶段,每个阶段由不同的LLM智能体协作完成。
01 分阶段设计:让LLM从“黑盒”走向“白盒”
传统的LLM进化方法,是把整个算法设计当成一个黑盒。LLM只能看到最终的输入和输出,无法了解算法在运行过程中的中间状态。一旦设计方向出错,往往要等到最终评估才能发现,浪费了大量宝贵的评估机会。而EvoStage的突破在于,它把算法设计过程拆解成了多个阶段(如下图所示)。

图注:传统黑盒设计(上)与EvoStage分阶段设计(下)的对比。
在每一个阶段,LLM只需设计当前阶段的任务。更重要的是,在每个阶段结束后,EvoStage都会把实时的执行信息反馈给LLM。这就像给了LLM一个“进度条”和“调试器”,让它能实时了解自己的设计到底产生了什么效果,并据此调整下一阶段的设计策略。这种“白盒”化的设计,极大地减少了LLM的“幻觉”。
02 多智能体协作+全局-局部视角
一个复杂的算法往往包含多个组件。比如在芯片布局中,需要同时调整学习率和优化步数。EvoStage为此引入了多智能体系统[4]:一个“协调器智能体”负责分析反馈、下达指令;多个“编码器智能体”各自负责一个算法组件。
分阶段设计虽好,但可能导致过度关注局部优化而陷入“局部最优”。为此,EvoStage引入了“全局-局部视角”机制[4]:
· 局部视角:分阶段设计,精耕细作。
· 全局视角:包含Global-Explore(从成功算法中借鉴灵感,生成全新算法)和Global-Enhance(微调当前最佳算法)两个操作符,帮助跳出局部最优。
03 惊艳结果:在芯片设计领域打破历史记录
EvoStage在极其硬核的芯片全局布局任务上交出了令人惊叹的答卷。
芯片布局是芯片设计流程中至关重要的一步,直接决定了芯片的性能、功耗和面积(PPA)[5]。它极其复杂,优化一个芯片往往需要数小时甚至数天。
在ISPD 2005[6]和ICCAD 2015[7]这两个公开的芯片基准测试上,EvoStage仅用了25次评估,就在所有16个测试案例上,取得了历史最佳(State-of-the-Art)的半周长线长(HPWL)结果!这个成绩,超越了由人类专家精心设计和调优的顶尖布局工具DREAMPlace[8]和Xplace[9]。

表注:在ISPD 2005和ICCAD 2015基准测试上的结果。EvoStage在所有16个案例上均取得了历史最佳结果。
更令人兴奋的是,当EvoStage被应用于一个真实的工业级3D芯片时,它帮助一个商业化的3D布局工具,在优化迭代次数上大幅减少了52.21%,同时线长性能也提升了近10%[1]。

图注:EvoStage优化后的3D芯片布局图。右侧(EvoStage)的布局中,相同颜色的单元聚集更紧密,排列更整齐。
04 不止芯片:从梯度优化到黑盒优化
EvoStage的通用性远不止于此。它同样可以被用来设计贝叶斯优化[10]中的采集函数。
实验证明,EvoStage自主设计的采集函数,在多个经典测试函数和神经架构搜索问题上,表现显著优于传统的采集函数(如EI[11]、UCB[12])以及其他LLM进化方法[4]。

表注:在贝叶斯优化任务上,EvoStage设计的采集函数在多个基准测试中均取得最优结果。
从EoH的“思想+代码”协同进化,到EvoX/AdaEvolve的“搜索策略进化”,再到今天EvoStage的“分阶段设计进化”,我们清晰地看到:大模型进化论正从实验室走向真正的工业战场,从“能设计算法”走向“能高效解决复杂工业问题”。
此刻,如果让你用这套“分阶段进化”的方法,你会如何利用这个方法去解决所面临的优化问题?欢迎在评论区分享你的想法。
参考文献:
[1] Liu, F., Tong, X., Yuan, M., Lin, X., Luo, F.,
Wang, Z., & Zhang, Q. (2024). Evolution of Heuristics: Towards Efficient
Automatic Algorithm Design Using Large Language Model. Proceedings of the
41st International Conference on Machine Learning.
[2] Liu, S., & Agarwal, S. et al. (2026). EvoX:
Meta-Evolution for Automated Discovery. arXiv preprint.
[3] Cemri, M., Agrawal, S., et al. (2026).
AdaEvolve: Adaptive LLM Driven Zeroth-Order Optimization. arXiv:2602.20133.
[4] Lu, C., Xue, K., Gao, C., Shi, Y., Xu, S.,
Yuan, M., Qian, C., & Zhou, Z.-H. (2026). Advancing Automated Algorithm
Design via Evolutionary Stagewise Design with LLMs. arXiv preprint
arXiv:2603.07970.
[5] MacMillen, D., Camposano, R., Hill, D., &
Williams, T. W. (2000). An industrial view of electronic design automation. IEEE
Transactions on Computer-Aided Design of Integrated Circuits and Systems,
19(12), 1428–1448.
[6] Nam, G.-J., Alpert, C. J., Villarrubia, P.,
Winter, B., & Yildiz, M. (2005). The ISPD2005 placement contest and
benchmark suite. Proceedings of the 2005 International Symposium on Physical
Design, 216–220.
[7] Kim, M.-C., Hu, J., Li, J., & Viswanathan,
N. (2015). ICCAD-2015 CAD contest in incremental timing-driven placement and
benchmark suite. *Proceedings of the 2015 International Conference on
Computer-Aided Design*, 921–926.
[8] Lin, Y., Jiang, Z., Gu, J., Li, W., Dhar, S.,
Ren, H., Khailany, B., & Pan, D. Z. (2020). DREAMPlace: Deep learning
toolkit-enabled gpu acceleration for modern VLSI placement. IEEE
Transactions on Computer-Aided Design of Integrated Circuits and Systems,
40(4), 748–761.
[9] Liu, L., Fu, B., Lin, S., Liu, J., Young, E. F.
Y., & Wong, M. D. F. (2024). Xplace: An extremely fast and extensible
placement framework. IEEE Transactions on Computer-Aided Design of
Integrated Circuits and Systems, 43(6), 1872–1885.
[10] Wang, X., Jin, Y., Schmitt, S., & Olhofer,
M. (2023). Recent advances in Bayesian optimization. ACM Computing Surveys,
55(13s), 1–36.
[11] Mockus, J. (1998). The application of Bayesian
methods for seeking the extremum. Towards Global Optimization, 2, 117.
[12] Srinivas, N., Krause, A., Kakade, S. M., &
Seeger, M. (2009). Gaussian process optimization in the bandit setting: No
regret and experimental design. arXiv preprint arXiv:0912.3995.