Aligning Progress and Feasibility: A Neuro-Symbolic Dual Memory Framework for Long-Horizon LLM Agents
作者: Bin Wen, Ruoxuan Zhang, Yang Chen, Hongxia Xie, Lan-Zhe Guo
分类: cs.AI
发布日期: 2026-04-06
💡 一句话要点
提出神经符号双记忆框架，解决长程LLM智能体中的全局漂移和局部违规问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 长程决策 大型语言模型 神经符号推理 双记忆框架 全局规划 局部验证
📋 核心要点
- 现有长程LLM智能体方法难以同时处理全局进度漂移和局部可行性违规问题。
- 论文提出神经符号双记忆框架，解耦语义进度指导和逻辑可行性验证，提升决策质量。
- 实验表明，该方法在多个任务上显著优于现有基线，并降低了无效动作率。
📝 摘要（中文）
大型语言模型(LLMs)在长程决策任务中表现出强大的潜力，例如具身操作和网页交互。然而，智能体在复杂环境中经常陷入无休止的试错循环或偏离主要目标。我们将这些失败归因于两个基本错误：全局进度漂移和局部可行性违规。现有方法通常试图使用单一范式同时解决这两个问题。然而，这两个挑战本质上是不同的：前者依赖于模糊的语义规划，而后者需要严格的逻辑约束和状态验证。这种单一范式方法的固有局限性对现有模型处理长程任务提出了根本性的挑战。受此启发，我们提出了一种神经符号双记忆框架，该框架明确地将语义进度指导与逻辑可行性验证分离。具体来说，在推理阶段，该框架同步调用两种记忆机制：一方面，基于神经网络的进度记忆从成功的轨迹中提取语义蓝图，以指导全局任务的推进；另一方面，基于符号逻辑的可行性记忆利用从失败的转换中合成的可执行Python验证函数来执行严格的逻辑验证。实验表明，该方法在ALFWorld、WebShop和TextCraft上显著优于现有的竞争基线，同时大幅降低了无效动作率和平均轨迹长度。
🔬 方法详解
问题定义：论文旨在解决长程LLM智能体在复杂环境中进行决策时，容易出现的全局进度漂移（Progress Drift）和局部可行性违规（Feasibility Violation）问题。现有方法通常采用单一范式同时解决这两个问题，但由于前者需要模糊语义规划，后者需要严格逻辑约束和状态验证，单一范式难以兼顾，导致智能体容易陷入试错循环或偏离目标。
核心思路：论文的核心思路是将语义进度指导和逻辑可行性验证解耦，分别使用不同的记忆机制进行处理。通过神经记忆（Progress Memory）学习成功轨迹的语义蓝图，指导全局任务推进；通过符号记忆（Feasibility Memory）利用逻辑验证函数，确保局部动作的可行性。这种解耦的设计使得智能体能够更好地平衡全局目标和局部约束。
技术框架：该框架包含两个主要模块：Progress Memory和Feasibility Memory。Progress Memory是一个基于神经网络的记忆模块，用于从成功的轨迹中提取语义蓝图，指导全局任务的推进。Feasibility Memory是一个基于符号逻辑的记忆模块，利用从失败的转换中合成的可执行Python验证函数来执行严格的逻辑验证。在推理阶段，这两个模块同步工作，Progress Memory提供语义指导，Feasibility Memory进行逻辑验证，最终选择既符合全局目标又满足局部约束的动作。
关键创新：该论文的关键创新在于提出了神经符号双记忆框架，将神经记忆和符号记忆相结合，分别处理语义进度指导和逻辑可行性验证。这种解耦的设计能够更好地平衡全局目标和局部约束，从而提高长程LLM智能体的决策能力。与现有方法相比，该方法能够更有效地避免全局漂移和局部违规问题。
关键设计：Progress Memory的具体实现细节未知，但推测可能使用了Transformer或其他序列模型来学习轨迹的语义表示。Feasibility Memory的关键在于如何从失败的转换中合成可执行的Python验证函数，具体合成方法未知。论文中没有明确提及损失函数和网络结构等技术细节，这部分内容有待进一步研究。
🖼️ 关键图片
📊 实验亮点
实验结果表明，该方法在ALFWorld、WebShop和TextCraft等任务上显著优于现有基线。具体性能提升数据未知，但论文强调该方法大幅降低了无效动作率和平均轨迹长度，表明该方法能够更有效地引导智能体完成任务，并减少不必要的试错。
🎯 应用场景
该研究成果可应用于各种需要长程决策的场景，例如机器人操作、网页交互、游戏AI等。通过提高智能体的决策能力和鲁棒性，可以实现更智能、更高效的自动化系统。例如，在智能家居领域，可以帮助机器人更好地完成复杂的家务任务；在电商领域，可以帮助用户更高效地完成购物流程。
📄 摘要（原文）
Large language models (LLMs) have demonstrated strong potential in long-horizon decision-making tasks, such as embodied manipulation and web interaction. However, agents frequently struggle with endless trial-and-error loops or deviate from the main objective in complex environments. We attribute these failures to two fundamental errors: global Progress Drift and local Feasibility Violation. Existing methods typically attempt to address both issues simultaneously using a single paradigm. However, these two challenges are fundamentally distinct: the former relies on fuzzy semantic planning, while the latter demands strict logical constraints and state validation. The inherent limitations of such a single-paradigm approach pose a fundamental challenge for existing models in handling long-horizon tasks. Motivated by this insight, we propose a Neuro-Symbolic Dual Memory Framework that explicitly decouples semantic progress guidance from logical feasibility verification. Specifically, during the inference phase, the framework invokes both memory mechanisms synchronously: on one hand, a neural-network-based Progress Memory extracts semantic blueprints from successful trajectories to guide global task advancement; on the other hand, a symbolic-logic-based Feasibility Memory utilizes executable Python verification functions synthesized from failed transitions to perform strict logical validation. Experiments demonstrate that this method significantly outperforms existing competitive baselines on ALFWorld, WebShop, and TextCraft, while drastically reducing the invalid action rate and average trajectory length.