SAGE: Symbolic Action-Gating and Editing for LLM Task Planners
作者: Trung Minh Bui, JongSul Moon, YoungOuk Kim, Quang-Ngoc Phung, Se-Woong Jun, Dongin Shin
分类: cs.RO, cs.AI
发布日期: 2026-09-28
备注: 8 pages, 2 figures, 1 table, 3 algorithms. Submitted to IEEE Robotics and Automation Letters (RA-L). Code and benchmark: https://github.com/mtbui2010/sage_release
💡 一句话要点
提出SAGE以解决LLM任务规划中的安全性与效率问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 任务规划 安全监控 符号动作门控 局部编辑机制 智能代理 机器人技术
📋 核心要点
- 现有的LLM任务规划方法在执行前缺乏对环境模型的核查，导致安全性和有效性不足。
- SAGE通过符号动作门控和局部编辑机制，提供了一种安全监控和高效恢复的规划方法。
- 实验结果显示，SAGE在多目标任务中表现出更高的完整性，并在中途失败时以更少的LLM调用实现恢复。
📝 摘要（中文）
大型语言模型（LLMs）已成为具身家庭代理的默认认知核心，但它们生成的计划在执行前很少与环境的实际模型进行核对，且任务成功率往往在饱和的基准测试中难以区分。本文提出了SAGE（符号动作门控与编辑），这是一个基于两个轻量机制的单LLM规划器：一个领域无关的符号门控作为运行时安全监控，阻止违反前置条件的动作，并提供类型化的理由；一个局部编辑机制仅重新生成失败子目标的后缀，保持已完成的工作不变。我们在五个开放权重模型和75个任务的AI2-THOR基准上进行评估，结果表明SAGE在标准基准上与强大的分层基线持平，而在更复杂的多目标组合中，SAGE的完整性显著提升。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在任务规划中缺乏安全性和效率的问题。现有方法在执行前未能有效核查环境模型，导致计划的安全性和成功率受到影响。
核心思路：SAGE的核心思想是通过符号动作门控机制阻止不安全的动作，并通过局部编辑机制高效地恢复失败的子目标，从而提高任务规划的安全性和效率。
技术框架：SAGE的整体架构包括两个主要模块：符号门控作为安全监控，实时阻止不符合前置条件的动作；局部编辑机制用于重新生成失败部分的计划，同时保持已完成的部分不变。
关键创新：SAGE的主要创新在于引入了符号动作门控机制，这一机制在执行前对计划进行核查，确保安全性，并且不调用任何模型，几乎不增加计算负担。
关键设计：SAGE的符号门控机制仅需约250行Python代码，且在每个计划中运行时间极短（0.008毫秒），使其成为一种高效的安全层。局部编辑机制则确保了在失败情况下的快速恢复，显著减少了LLM的调用次数。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在标准基准上，SAGE与强大的分层基线持平，而在更复杂的多目标任务中，SAGE的完整性提升幅度达到0.06至0.23。此外，在中途失败的情况下，SAGE以2.4至3.3倍更少的LLM调用实现了可靠的恢复，显示出其优越的性能。
🎯 应用场景
SAGE的研究成果在智能家居、机器人任务规划和自动化系统等领域具有广泛的应用潜力。通过提高任务规划的安全性和效率，SAGE可以帮助开发更可靠的智能代理，提升用户体验和系统的整体性能。未来，SAGE的机制也可能被应用于其他需要实时决策和安全监控的智能系统中。
📄 摘要（原文）
Large language models (LLMs) are now the default cognitive core of embodied household agents, yet the plans they emit are rarely checked against a grounded model of the environment before execution, and the task-success they report is often measured on benchmarks so saturated that no method can be separated from another. We present SAGE (Symbolic Action-Gating and Editing), a single-LLM planner built from two lightweight mechanisms: a domain-agnostic symbolic gate (~250 lines of Python, zero tokens, $O(|π|)$) that blocks precondition-violating actions with typed reasons as a runtime safety monitor, and a local edit that regenerates only the failed sub-goal's suffix, keeping completed and untouched work intact; a hybrid seed+live memory store supports cold-start coverage. We evaluate under a leak-free protocol (leave-one-out retrieval) over five open-weight models and a 75-task AI2-THOR benchmark. On the standard benchmark goal-completeness saturates (52% of instances trivially solved) and SAGE ties strong hierarchical baselines. On a harder, method-agnostic multi-goal composition, SAGE's completeness lead re-emerges large (+0.06 to +0.23 across four models). Under injected mid-execution failures, SAGE recovers as reliably as whole-plan replanners at 2.4-3.3x fewer LLM calls. As a verify-before-execute gate, the symbolic monitor blocks unsafe actions before actuation and raises simulator-reported step-success for every planner tested (up to +0.11), a signal the verifier never sees (non-circular). Because the gate calls no model (0.008 ms/plan), it is a safety layer that runs essentially free on the edge: SAGE planning reproduces its quality on a Jetson AGX Orin, where small-model verification helps most. We release the benchmark, the leak-free protocol, the recovery and safety-gate harnesses, and a verifier-portability study (auto-induced on ALFWorld, 0.89 held-out).