Self-Corrective Task Planning by Inverse Prompting with Large Language Models

📄 arXiv: 2503.07317v1 📥 PDF

作者: Jiho Lee, Hayun Lee, Jonghyeon Kim, Kyungjae Lee, Eunwoo Kim

分类: cs.RO, cs.AI

发布日期: 2025-03-10

备注: 7 pages, 5 figures, IEEE International Conference on Robotics and Automation (ICRA) 2025

💡 一句话要点

提出InversePrompt，利用逆向提示实现LLM机器人任务规划的自校正

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 机器人任务规划 大型语言模型 自校正 逆向提示 可解释性

📋 核心要点

  1. 现有LLM任务规划方法依赖预定义错误集或外部知识，成本高且易出错。
  2. InversePrompt通过逆向提示，验证动作序列的逻辑一致性，提升可解释性。
  3. 实验表明，InversePrompt在任务规划成功率上平均提升16.3%。

📝 摘要（中文）

大型语言模型(LLM)在机器人任务规划中展现出生成复杂和长时程动作序列的巨大潜力。然而，LLM经常产生听起来合理但不准确的响应。为了解决这些问题，现有方法通常采用预定义的错误集合或外部知识源，这需要大量的人工和计算资源。最近，自校正方法开始出现，其中LLM生成和改进计划，并自行识别错误。尽管它们有效，但由于推理不足，它们更容易在校正中失败。在本文中，我们介绍了一种新颖的自校正任务规划方法InversePrompt，它利用逆向提示来增强可解释性。我们的方法结合了推理步骤，以提供清晰、可解释的反馈。它生成与初始生成的动作相对应的逆向动作，并验证这些逆向动作是否可以将系统恢复到其原始状态，从而显式地验证生成的计划的逻辑一致性。在基准数据集上的结果表明，与现有的基于LLM的任务规划方法相比，成功率平均提高了16.3%。我们的方法为现实环境中的反馈提供了更清晰的理由，从而在各种场景中比现有的自校正方法更成功地完成任务。

🔬 方法详解

问题定义：论文旨在解决LLM在机器人任务规划中生成动作序列时，虽然看似合理但实际不准确的问题。现有方法依赖人工定义的错误集合或外部知识库，成本高昂且难以覆盖所有情况，同时缺乏足够的推理能力进行自校正。

核心思路：核心思想是利用逆向提示，即对于LLM生成的每个动作，生成一个对应的逆向动作。通过验证逆向动作是否能将环境恢复到原始状态，来判断原始动作序列的逻辑一致性和正确性。这种方法模拟了人类的“撤销”操作，增强了LLM的推理能力和可解释性。

技术框架：整体框架包含以下几个主要步骤：1) LLM生成初始的任务规划动作序列。2) 对于序列中的每个动作，利用LLM生成对应的逆向动作。3) 执行原始动作序列，然后执行逆向动作序列。4) 比较执行逆向动作后的环境状态与初始状态，如果状态差异超过阈值，则认为原始动作序列存在错误。5) LLM根据状态差异进行推理，并对原始动作序列进行修正。

关键创新：关键创新在于引入了逆向提示的概念，将动作序列的验证问题转化为环境状态的比较问题。这种方法无需预定义的错误集合或外部知识库，而是利用LLM自身的推理能力进行自校正。同时，逆向动作的生成和执行过程提供了清晰的可解释性，方便用户理解和调试。

关键设计：论文中，逆向动作的生成依赖于LLM的提示工程，需要设计合适的提示语来引导LLM生成正确的逆向动作。状态差异的比较需要定义合适的距离度量，例如，对于物体抓取任务，可以比较物体的位置和姿态差异。此外，LLM的修正策略也需要精心设计，以避免陷入局部最优解。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，InversePrompt方法在多个基准数据集上取得了显著的性能提升，平均成功率比现有基于LLM的任务规划方法高出16.3%。这表明该方法能够有效地提高LLM在复杂任务规划中的准确性和可靠性。同时，该方法的可解释性也得到了验证，能够为用户提供清晰的反馈和调试信息。

🎯 应用场景

该研究成果可应用于各种机器人任务规划场景，例如家庭服务机器人、工业自动化机器人、自动驾驶等。通过提高任务规划的准确性和可靠性，可以减少人工干预，提高机器人自主完成任务的能力，从而降低成本并提高效率。未来，该方法有望与其他自监督学习技术相结合，进一步提升LLM在机器人领域的应用潜力。

📄 摘要（原文）

In robot task planning, large language models (LLMs) have shown significant promise in generating complex and long-horizon action sequences. However, it is observed that LLMs often produce responses that sound plausible but are not accurate. To address these problems, existing methods typically employ predefined error sets or external knowledge sources, requiring human efforts and computation resources. Recently, self-correction approaches have emerged, where LLM generates and refines plans, identifying errors by itself. Despite their effectiveness, they are more prone to failures in correction due to insufficient reasoning. In this paper, we introduce InversePrompt, a novel self-corrective task planning approach that leverages inverse prompting to enhance interpretability. Our method incorporates reasoning steps to provide clear, interpretable feedback. It generates inverse actions corresponding to the initially generated actions and verifies whether these inverse actions can restore the system to its original state, explicitly validating the logical coherence of the generated plans. The results on benchmark datasets show an average 16.3% higher success rate over existing LLM-based task planning methods. Our approach offers clearer justifications for feedback in real-world environments, resulting in more successful task completion than existing self-correction approaches across various scenarios.