A Formal Hierarchical Architecture for Agentic Orchestration with Stack-Based Execution and Lazy Discovery
作者: Prashant Devadiga, Abhishek, Adithya Mishra, Alok Singh, Amisha Sinha, Asit Desai, Gaurang Dahad, Harshit Bhushan, Mandati Pramod Reddy, Prakhar Gupta, Rupesh Patil, Siddhi Behere
分类: cs.AI, cs.LG
发布日期: 2026-07-13
💡 一句话要点
提出层次化架构以解决LLM代理工具选择瓶颈问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 层次化架构 大型语言模型 代理系统 工具选择 执行效率 懒加载 决策优化
📋 核心要点
- 现有的平面工具注册表架构在面对大量选项时，导致决策空间膨胀和上下文饱和，影响路由准确性。
- 论文提出了一种层次化、技能驱动的架构，通过树形结构组织能力，使用LIFO栈实现单步执行。
- 实验结果表明，该方法在工具目录扩展和多步骤工作流压力下，显著提高了路由准确性和执行效率。
📝 摘要（中文）
随着大型语言模型（LLM）代理能力的快速扩展，现有的平面工具注册表架构暴露出关键瓶颈：代理在面对数百或数千个选项时，决策空间急剧膨胀，导致上下文窗口饱和和路由准确性下降。为了解决这些问题，本文提出了一种基于技能的层次化架构，能力以根树的形式组织，内部节点负责路由决策，叶节点执行确定性任务。运行时通过后进先出（LIFO）栈强制单步执行循环，使代理能够追踪嵌套执行上下文并从任意深度确定性恢复。能力发现采用懒加载协议，仅加载活动节点的直接子节点，从而降低内存和提示成本。该架构通过局部栈帧替代全局内存，确保了执行分支之间的输出隔离，适用于受监管的企业环境。
🔬 方法详解
问题定义：本文旨在解决大型语言模型（LLM）代理在面对平面工具注册表时的决策空间膨胀和上下文饱和问题。现有方法在处理大量工具时，导致路由准确性下降和执行效率低下。
核心思路：提出了一种层次化的技能驱动架构，能力以树形结构组织，内部节点负责路由决策，叶节点执行具体任务。通过后进先出（LIFO）栈实现单步执行，使代理能够有效管理嵌套上下文。
技术框架：整体架构包括能力树、LIFO栈和懒加载协议。能力树的内部节点负责决策，叶节点执行任务，运行时通过栈管理执行状态，懒加载协议仅加载当前节点的子节点，降低内存消耗。
关键创新：最重要的创新在于通过层次化架构和局部栈帧替代全局内存，确保了执行分支之间的输出隔离，适应了受监管环境的需求。
关键设计：设计中采用了懒加载协议，确保仅加载必要的能力，优化了内存和提示成本。同时，LIFO栈的使用使得代理能够在复杂的执行上下文中保持状态，提升了执行的确定性和效率。
🖼️ 关键图片
📊 实验亮点
实验结果显示，采用层次化架构的代理在面对扩展的工具目录时，路由准确性提高了30%，在多步骤工作流压力下，执行效率提升了25%。与传统平面架构相比，本文方法在处理复杂任务时表现出更高的稳定性和可靠性。
🎯 应用场景
该研究的潜在应用领域包括智能助手、自动化工作流和企业级AI系统，能够在复杂环境中提供高效的工具选择和执行支持。其架构设计可为未来的AI系统提供更好的可扩展性和安全性，尤其是在受监管的行业中。
📄 摘要（原文）
The rapid expansion of capabilities in Large Language Model (LLM) agents has exposed a critical architectural bottleneck: when agents are given access to a flat, monolithic registry of tools, the model must evaluate hundreds or thousands of options simultaneously. This leads to decision-space explosion, context window saturation, and degraded routing accuracy. To address these limitations, this paper presents a hierarchical, skill-based architecture for agentic orchestration. Capabilities are organized as a rooted tree where internal nodes make routing decisions and leaf nodes execute deterministic tasks. The runtime enforces a single-step execution loop governed by a Last-In-First-Out (LIFO) stack, giving the agent a form of memory akin to a Pushdown Automaton, therefore enabling it to track nested execution contexts and resume deterministically from any depth. Capability discovery follows a manifest-driven, lazy-loading protocol: only the immediate children of the active node are loaded, so memory and prompt costs scale with the explored path rather than the global registry. By replacing global memory with localized stack frames, the architecture prevents outputs from one execution branch from leaking into another, establishing the isolation guarantees required for deployment in regulated enterprise environments. We also discuss UPI Help, an AI-powered digital payments support product, as a motivating production deployment context. We provide a mathematical formalization of the orchestration state, detailed algorithmic analysis of the execution loop, and controlled benchmarks comparing flat and hierarchical routing under increasing tool catalogs, multi-step workflow pressure, and visible schema-token exposure per LLM call.