Agentic Architect: An Agentic AI Framework for Architecture Design Exploration and Optimization
作者: Alexander Blasberg, Vasilis Kypriotis, Dimitrios Skarlatos
分类: cs.AI, cs.AR
发布日期: 2026-04-28
💡 一句话要点
Agentic Architect:基于Agentic AI的计算机体系结构设计探索与优化框架
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 计算机体系结构 微架构设计 大型语言模型 代码演化 自动化设计 性能优化 Agentic AI
📋 核心要点
- 计算机体系结构设计面临巨大的组合空间,传统方法难以高效探索,需要新的自动化设计方法。
- Agentic Architect利用LLM驱动的代码演化,结合周期精确模拟,在架构师设定的约束下自动探索和优化设计。
- 实验表明,该框架在缓存替换、数据预取和分支预测等任务上,性能匹配甚至超越了现有最先进的设计。
📝 摘要(中文)
本文提出Agentic Architect,一个用于计算机体系结构设计探索和优化的agentic AI框架,它结合了LLM驱动的代码演化和周期精确的模拟。人类架构师指定优化目标、种子设计、评分函数、模拟器接口和基准测试集划分,而LLM在这些约束内探索实现方案。在缓存替换、数据预取和分支预测方面,Agentic Architect匹配或超过了最先进的设计。最佳的缓存替换设计比LRU的IPC几何平均速度提高了1.062倍,比Mockingjay提高了0.6%(1.056倍)。演化的分支预测器比Bimodal的IPC几何平均速度提高了1.100倍,比其Hashed Perceptron种子提高了1.5%(1.085倍)。最后,演化的预取器比没有预取的情况下IPC几何平均速度提高了1.76倍,比其VA/AMPM Lite种子提高了17%(1.59倍),比SMS提高了21%(1.55倍)。分析表明,演化的设计组件通常对应于已知技术,创新在于它们的协调方式。架构师的角色正在转变,但人类仍然是核心。种子质量限制了搜索的上限:演化可以改进和扩展现有机制,但不能弥补薄弱的基础。同样,目标、约束和提示指导会影响可靠性和泛化能力。Agentic Architect是第一个用于agentic AI架构探索和优化的端到端开源框架。
🔬 方法详解
问题定义:计算机体系结构设计,特别是微架构设计,涉及庞大的参数和策略组合空间,传统的手工设计和优化方法效率低下,难以找到最优解。现有的自动化方法,如基于强化学习的方法,训练成本高昂,且难以泛化到新的架构或工作负载。
核心思路:利用大型语言模型(LLM)的代码生成和演化能力,将架构设计问题转化为代码优化问题。通过定义明确的优化目标、约束条件和评分函数,引导LLM自动探索和改进微架构设计,并结合周期精确的模拟器进行性能评估。
技术框架:Agentic Architect框架包含以下几个主要模块:1) 架构师定义的输入:包括优化目标(如IPC)、种子设计、评分函数、模拟器接口和基准测试集划分。2) LLM驱动的代码演化:LLM根据架构师提供的输入,生成和修改微架构设计的代码实现。3) 周期精确的模拟:使用模拟器评估LLM生成的设计的性能。4) 反馈循环:根据模拟结果,LLM调整设计,进行迭代优化。
关键创新:该方法的核心创新在于将LLM的代码生成能力与计算机体系结构的模拟评估相结合,形成一个自动化的设计探索和优化循环。与传统的基于强化学习的方法相比,该方法无需大量训练数据,且更易于泛化到新的架构和工作负载。此外,该框架是端到端的开源框架,方便研究人员使用和扩展。
关键设计:架构师需要精心设计优化目标、约束条件和评分函数,以引导LLM进行有效的搜索。种子设计的质量对最终结果有重要影响,好的种子设计可以加速搜索过程并提高最终性能。LLM的提示工程也很重要,需要提供清晰的指令和示例,以帮助LLM理解设计目标和约束。
🖼️ 关键图片
📊 实验亮点
Agentic Architect在缓存替换、数据预取和分支预测三个任务上取得了显著成果。在缓存替换方面,最佳设计比LRU提升了6.2%的IPC,比Mockingjay提升了0.6%。分支预测方面,比Bimodal提升了10.0%的IPC,比Hashed Perceptron种子提升了1.5%。数据预取方面,比无预取提升了76%的IPC,比VA/AMPM Lite种子提升了17%,比SMS提升了21%。
🎯 应用场景
Agentic Architect可应用于各种计算机体系结构设计任务,例如CPU、GPU、存储系统和网络芯片的设计。该框架可以帮助架构师快速探索和优化设计空间,缩短设计周期,并提高芯片性能。此外,该框架还可以用于自动化生成特定应用场景下的定制化架构,例如用于深度学习加速的专用芯片。
📄 摘要(原文)
Rapid advances in Large Language Models (LLMs) create new opportunities by enabling efficient exploration of broad, complex design spaces. This is particularly valuable in computer architecture, where performance depends on microarchitectural designs and policies drawn from vast combinatorial spaces. We introduce Agentic Architect, an agentic AI framework for computer architecture design exploration and optimization that combines LLM-driven code evolution with cycle-accurate simulation. The human architect specifies the optimization target, seed design, scoring function, simulator interface, and benchmark split, while the LLM explores implementations within these constraints. Across cache replacement, data prefetching, and branch prediction, Agentic Architect matches or exceeds state-of-the-art designs. Our best evolved cache replacement design achieves a 1.062x geomean IPC speedup over LRU, 0.6% over Mockingjay (1.056x). Our evolved branch predictor achieves a 1.100x geomean IPC speedup over Bimodal, 1.5% over its Hashed Perceptron seed (1.085x). Finally, our evolved prefetcher achieves a 1.76x geomean IPC speedup over no prefetching, 17% over its VA/AMPM Lite seed (1.59x) and 21% over SMS (1.55x). Our analysis surfaces several findings about agentic AI-driven microarchitecture design. Across evolved designs, components often correspond to known techniques; the novelty lies in how they are coordinated. The architect's role is shifting, but the human remains central. Seed quality bounds what search can achieve: evolution can refine and extend an existing mechanism, but cannot compensate for a weak foundation. Likewise, objectives, constraints, and prompt guidance affect reliability and generalization. Overall, Agentic Architect is the first end-to-end open-source framework for agentic AI architecture exploration and optimization.