EvoStage如何用“阶段性设计”征服工业级难题——大模型进化论学会“分步走”

中国仿真学会 资源规划仿真与决策专业委员会(筹)
2026-04-20 13:53:23
浏览 59 次

EoH的“思想+代码”协同进化,到EvoX/AdaEvolve的“让搜索策略也进化”,我们见证了“大模型进化论”的不断迭代。今天要介绍的EvoStage,让大模型学会像人类专家一样分阶段设计算法,并在芯片设计领域打破了历史纪录。

还记得我们前两期聊过的“大模型进化论”吗?从EoH[1]LLM同时进化“思想”与“代码”,到EvoX[2]AdaEvolve[3]让“搜索策略”本身也参与进化,这套“LLM+进化算法的组合拳,正在以前所未有的方式自动化地设计算法。但无论是EoH还是EvoX,它们都采用了一种“黑盒”模式LLM一次性生成整个算法代码,然后等待最终的评估结果(一个分数)。这就像让一个学生写完一整篇论文后,才告诉他写得怎么样。在面对极其复杂、评估成本极高的工业问题时,这种模式就显得力不从心了。

为了解决这个痛点,来自南京大学和华为诺亚方舟实验室的研究团队,提出了一种全新的进化范式——EvoStage (Evolutionary Stagewise Algorithm Design)[4]

图片3.png

图注:EvoStage框架概览。它将算法设计分解为多个阶段,每个阶段由不同的LLM智能体协作完成。


01 分阶段设计:让LLM从“黑盒”走向“白盒”

传统的LLM进化方法,是把整个算法设计当成一个黑盒。LLM只能看到最终的输入和输出,无法了解算法在运行过程中的中间状态。一旦设计方向出错,往往要等到最终评估才能发现,浪费了大量宝贵的评估机会。而EvoStage的突破在于,它把算法设计过程拆解成了多个阶段(如下图所示)。

图片1.png

图注:传统黑盒设计(上)与EvoStage分阶段设计(下)的对比。


在每一个阶段,LLM只需设计当前阶段的任务。更重要的是,在每个阶段结束后,EvoStage都会把实时的执行信息反馈给LLM。这就像给了LLM个“进度条”和“调试器”,让它能实时了解自己的设计到底产生了什么效果,并据此调整下一阶段的设计策略。这种“白盒”化的设计,极大地减少了LLM的“幻觉”。


02 多智能体协作+全局-局部视角

一个复杂的算法往往包含多个组件。比如在芯片布局中,需要同时调整学习率和优化步数。EvoStage为此引入了多智能体系统[4]:一个“协调器智能体”负责分析反馈、下达指令;多个“编码器智能体”各自负责一个算法组件。

分阶段设计虽好,但可能导致过度关注局部优化而陷入“局部最优”。为此,EvoStage引入“全局-局部视角”机制[4]

· 局部视角:分阶段设计,精耕细作。

· 全局视角:包含Global-Explore(从成功算法中借鉴灵感,生成全新算法)和Global-Enhance(微调当前最佳算法)两个操作符,帮助跳出局部最优。


03 惊艳结果:在芯片设计领域打破历史记录

EvoStage在极其硬核的芯片全局布局任务上交出了令人惊叹的答卷。

芯片布局是芯片设计流程中至关重要的一步,直接决定了芯片的性能、功耗和面积(PPA[5]。它极其复杂,优化一个芯片往往需要数小时甚至数天。

ISPD 2005[6]ICCAD 2015[7]这两个公开的芯片基准测试上,EvoStage仅用了25次评估,就在所有16个测试案例上,取得了历史最佳(State-of-the-Art)的半周长线长(HPWL)结果!这个成绩,超越了由人类专家精心设计和调优的顶尖布局工具DREAMPlace[8]Xplace[9]

图片2.png

表注:在ISPD 2005ICCAD 2015基准测试上的结果。EvoStage在所有16个案例上均取得了历史最佳结果。


更令人兴奋的是,当EvoStage被应用于一个真实的工业级3D芯片时,它帮助一个商业化的3D布局工具,在优化迭代次数上大幅减少了52.21%,同时线长性能也提升了近10%[1]

图片4.png

图注:EvoStage优化后的3D芯片布局图。右侧(EvoStage)的布局中,相同颜色的单元聚集更紧密,排列更整齐。


04 不止芯片:从梯度优化到黑盒优化

EvoStage的通用性远不止于此。它同样可以被用来设计贝叶斯优化[10]中的采集函数

实验证明,EvoStage自主设计的采集函数,在多个经典测试函数和神经架构搜索问题上,表现显著优于传统的采集函数(如EI[11]UCB[12])以及其他LLM进化方法[4]

图片5.png

表注:在贝叶斯优化任务上,EvoStage设计的采集函数在多个基准测试中均取得最优结果。


EoH的“思想+代码”协同进化,到EvoX/AdaEvolve“搜索策略进化”,再到今天EvoStage“分阶段设计进化”,我们清晰地看到:大模型进化论正从实验室走向真正的工业战场,从“能设计算法”走向“能高效解决复杂工业问题”

此刻,如果让你用这套“分阶段进化”的方法,你会如何利用这个方法去解决所面临的优化问题?欢迎在评论区分享你的想法。



参考文献:

[1] Liu, F., Tong, X., Yuan, M., Lin, X., Luo, F., Wang, Z., & Zhang, Q. (2024). Evolution of Heuristics: Towards Efficient Automatic Algorithm Design Using Large Language Model. Proceedings of the 41st International Conference on Machine Learning.

[2] Liu, S., & Agarwal, S. et al. (2026). EvoX: Meta-Evolution for Automated Discovery. arXiv preprint.

[3] Cemri, M., Agrawal, S., et al. (2026). AdaEvolve: Adaptive LLM Driven Zeroth-Order Optimization. arXiv:2602.20133.

[4] Lu, C., Xue, K., Gao, C., Shi, Y., Xu, S., Yuan, M., Qian, C., & Zhou, Z.-H. (2026). Advancing Automated Algorithm Design via Evolutionary Stagewise Design with LLMs. arXiv preprint arXiv:2603.07970.

[5] MacMillen, D., Camposano, R., Hill, D., & Williams, T. W. (2000). An industrial view of electronic design automation. IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 19(12), 1428–1448.

[6] Nam, G.-J., Alpert, C. J., Villarrubia, P., Winter, B., & Yildiz, M. (2005). The ISPD2005 placement contest and benchmark suite. Proceedings of the 2005 International Symposium on Physical Design, 216–220.

[7] Kim, M.-C., Hu, J., Li, J., & Viswanathan, N. (2015). ICCAD-2015 CAD contest in incremental timing-driven placement and benchmark suite. *Proceedings of the 2015 International Conference on Computer-Aided Design*, 921–926.

[8] Lin, Y., Jiang, Z., Gu, J., Li, W., Dhar, S., Ren, H., Khailany, B., & Pan, D. Z. (2020). DREAMPlace: Deep learning toolkit-enabled gpu acceleration for modern VLSI placement. IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 40(4), 748–761.

[9] Liu, L., Fu, B., Lin, S., Liu, J., Young, E. F. Y., & Wong, M. D. F. (2024). Xplace: An extremely fast and extensible placement framework. IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 43(6), 1872–1885.

[10] Wang, X., Jin, Y., Schmitt, S., & Olhofer, M. (2023). Recent advances in Bayesian optimization. ACM Computing Surveys, 55(13s), 1–36.

[11] Mockus, J. (1998). The application of Bayesian methods for seeking the extremum. Towards Global Optimization, 2, 117.

[12] Srinivas, N., Krause, A., Kakade, S. M., & Seeger, M. (2009). Gaussian process optimization in the bandit setting: No regret and experimental design. arXiv preprint arXiv:0912.3995.