ActionReasoningBench: Reasoning about Actions with and without Ramification Constraints
作者: Divij Handa, Pavel Dolin, Shrinidhi Kumbhar, Tran Cao Son, Chitta Baral
分类: cs.CC, cs.AI
发布日期: 2024-06-06 (更新: 2025-03-02)
备注: Accepted in ICLR 2025
💡 一句话要点
提出ActionReasoningBench基准，评估LLM在具身智能和常识推理中的行动推理能力。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 行动推理 大型语言模型 基准测试 常识推理 具身智能 衍生约束 状态跟踪
📋 核心要点
- 大型语言模型在行动推理方面能力不足，尤其是在处理复杂约束和间接影响时，缺乏系统性的评估基准。
- 构建ActionReasoningBench基准，包含多种场景和推理维度，旨在全面评估LLM在行动推理方面的能力。
- 实验表明，现有LLM在处理复杂推理和衍生约束方面存在明显不足，为未来的研究方向提供了指导。
📝 摘要（中文）
本文提出了一个新的诊断基准ActionReasoningBench，用于评估大型语言模型（LLM）在行动推理（RAC）方面的能力。该基准包含8个领域，问题涉及多达19个行动序列，并从六个关键维度评估LLM：状态跟踪、动作执行性、动作效果、数值RAC和复合问题。实验结果表明，LLM在前四个维度上表现尚可（平均准确率分别为73.55%、65.63%、58.73%和62.38%），但在后两个维度上，由于引入了复杂和新颖的推理问题，性能显著下降（平均准确率分别降至33.16%和51.19%）。此外，本文还引入了新的衍生约束，以捕捉行动的间接影响，从而更深入地了解RAC的挑战。对包括开源和商业模型在内的最先进LLM的评估表明，所有RAC维度都存在挑战，尤其是在处理衍生约束方面，GPT-4o未能解决任何问题，o1-preview的得分仅为18.4%。
🔬 方法详解
问题定义：论文旨在解决大型语言模型（LLM）在行动推理（Reasoning about Actions and Change, RAC）方面能力评估不足的问题。现有方法缺乏一个全面的基准来诊断LLM在处理复杂行动序列、状态跟踪、动作执行性、动作效果以及更高级的数值推理和复合问题方面的能力。特别是，现有方法在评估LLM处理行动的间接影响（衍生约束）方面的能力存在明显不足。
核心思路：论文的核心思路是构建一个诊断基准ActionReasoningBench，该基准包含多个领域和多种类型的推理问题，旨在全面评估LLM在RAC方面的能力。通过设计不同难度的任务，特别是引入衍生约束，可以更深入地了解LLM在处理复杂推理场景时的局限性。
技术框架：ActionReasoningBench基准包含以下几个主要组成部分： 1. 领域定义：定义了8个不同的领域，涵盖了各种行动推理场景。 2. 问题生成：为每个领域生成一系列问题，问题涉及多达19个行动序列。 3. 推理维度：从六个关键维度评估LLM：Fluent Tracking（状态跟踪）、State Tracking（状态跟踪）、Action Executability（动作执行性）、Effects of Actions（动作效果）、Numerical RAC（数值RAC）和Composite Questions（复合问题）。 4. 衍生约束：引入新的衍生约束，以捕捉行动的间接影响。 5. 评估指标：使用准确率作为评估指标，衡量LLM在每个维度上的表现。
关键创新：论文的关键创新在于： 1. 基准的全面性：ActionReasoningBench基准涵盖了多个领域和多种类型的推理问题，能够全面评估LLM在RAC方面的能力。 2. 衍生约束的引入：引入了新的衍生约束，能够更深入地了解LLM在处理行动的间接影响方面的能力。 3. 诊断性评估：基准的设计旨在诊断LLM在不同推理维度上的优势和不足，为未来的研究方向提供指导。
关键设计：ActionReasoningBench基准的关键设计包括： 1. 问题难度分级：问题难度从简单到复杂，逐步增加行动序列的长度和推理的复杂性。 2. 衍生约束的建模：使用逻辑规则来建模衍生约束，确保约束的明确性和可解释性。 3. 评估指标的选择：选择准确率作为评估指标，能够直观地反映LLM在每个维度上的表现。
🖼️ 关键图片
📊 实验亮点
实验结果表明，现有LLM在ActionReasoningBench基准上的表现参差不齐。在前四个维度（状态跟踪、动作执行性、动作效果）上，平均准确率在60%-75%之间，但在后两个维度（数值RAC和复合问题）上，性能显著下降，平均准确率降至33.16%和51.19%。尤其是在处理衍生约束方面，GPT-4o未能解决任何问题，o1-preview的得分仅为18.4%，表明现有LLM在处理复杂推理和间接影响方面存在明显不足。
🎯 应用场景
ActionReasoningBench基准的潜在应用领域包括机器人控制、游戏AI、智能助手和常识推理系统。通过提高LLM在行动推理方面的能力，可以使这些系统更好地理解和预测行动的后果，从而在动态环境中做出更明智的决策。该研究的未来影响在于推动具身智能和常识推理领域的发展，使AI系统能够更有效地与现实世界互动。
📄 摘要（原文）
Reasoning about Actions and Change (RAC) has historically played a pivotal role in solving foundational AI problems, such as the frame problem. It has driven advancements in AI fields, such as non-monotonic and commonsense reasoning. RAC remains crucial for AI systems that operate in dynamic environments, engage in interactive scenarios, or rely on commonsense reasoning. Despite substantial advances made by Large Language Models (LLMs) in various AI domains, their performance in RAC remains underexplored. To address this gap, we introduce a new diagnostic benchmark, ActionReasoningBench, which encompasses 8 domains and includes questions for up to 19 action sequences. This benchmark rigorously evaluates LLMs across six key RAC dimensions: Fluent Tracking, State Tracking, Action Executability, Effects of Actions, Numerical RAC, and Composite Questions. LLMs demonstrate average accuracy rates of 73.55%, 65.63%, 58.73%, and 62.38% on the former four dimensions, which are frequently discussed in RAC literature. However, the performance on the latter two dimensions, which introduce complex and novel reasoning questions, the average performance of LLMs is lowered to 33.16% and 51.19%, respectively, reflecting a 17.9% performance decline. We also introduce new ramification constraints to capture the indirect effects of actions, providing deeper insights into RAC challenges. Our evaluation of state-of-the-art LLMs, including both open-source and commercial models, reveals challenges across all RAC dimensions, particularly in handling ramifications, with GPT-4o failing to solve any question and o1-preview achieving a score of only 18.4%.