LLM A: Human in the Loop Large Language Models Enabled A Search for Robotics

📄 arXiv: 2312.01797v3 📥 PDF

作者: Hengjia Xiao, Peng Wang, Mingzhe Yu, Mattia Robbiani

分类: cs.RO, cs.AI, cs.HC

发布日期: 2023-12-04 (更新: 2025-05-15)

备注: 7 figures, 8 pages

🔗 代码/项目: GITHUB

💡 一句话要点

提出LLM A框架，利用大语言模型辅助机器人A搜索，实现人机协同路径规划

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 机器人路径规划 A*搜索算法 人机协作 具身智能 提示工程 常识推理

📋 核心要点

  1. 现有机器人路径规划方法缺乏利用常识知识的能力，且人机交互性不足，难以适应复杂环境。
  2. LLM A框架结合了LLMs的常识推理能力和A算法的效率，通过提示工程和人机交互实现更优路径规划。
  3. 实验表明，LLM A在搜索效率上优于传统A和强化学习，并能有效融合人类反馈，提升规划质量。

📝 摘要（中文）

本研究致力于探索如何利用大型语言模型（LLMs）以人机协同和交互的方式辅助具身智能体（如机器人）进行（路径）规划。论文提出了一种名为LLM A的新框架，旨在利用LLMs的常识知识和效用最优的A算法，促进少样本的近优路径规划。提示（Prompts）主要用于两个目的：1）为LLMs提供环境、成本、启发式等基本信息；2）将人类对中间规划结果的反馈传递给LLMs。这种方法采纳了人类的反馈，并使整个规划过程对人类透明（类似于“白盒”）。此外，它促进了无需代码的路径规划，从而提高了人工智能技术对不擅长编码的社区的可访问性和包容性。与A和强化学习（RL）的对比分析表明，LLM A在搜索空间方面表现出更高的效率，并实现了与A相当的路径，同时优于RL。LLM A的交互性也使其成为在人机协作任务中部署的有前途的工具。

🔬 方法详解

问题定义：现有的机器人路径规划方法，如传统的A*算法，虽然在已知环境下表现良好，但在复杂、动态或未知的环境中，由于缺乏常识推理能力，往往效率低下或难以找到最优路径。此外，传统方法通常是“黑盒”式的，难以让人类理解和干预规划过程。强化学习方法虽然可以学习复杂环境，但需要大量的训练数据，且泛化能力有限。

核心思路：LLM A的核心思路是将大型语言模型（LLMs）的常识推理能力与A算法的搜索效率相结合。通过提示工程，将环境信息、成本函数和启发式函数等输入LLM，利用LLM生成更有效的启发式信息或指导搜索方向。同时，允许人类对中间规划结果进行反馈，LLM根据反馈调整规划策略，实现人机协同的路径规划。

技术框架：LLM A框架主要包含以下几个模块：1）环境建模：将环境信息转化为LLM可以理解的文本描述；2）提示工程：设计合适的提示，引导LLM生成启发式信息或指导搜索方向；3）A搜索：利用LLM提供的启发式信息进行A*搜索；4）人机交互：允许人类对中间规划结果进行反馈，并将反馈信息传递给LLM；5）LLM推理**：LLM根据环境信息和人类反馈，调整启发式信息或搜索策略。整个流程是一个迭代的过程，直到找到满意的路径。

关键创新：LLM A最重要的创新点在于将大型语言模型的常识推理能力引入到机器人路径规划中。与传统的A算法相比，LLM A可以利用LLM的知识库和推理能力，更好地理解环境，生成更有效的启发式信息，从而提高搜索效率。与强化学习方法相比，LLM A不需要大量的训练数据，且具有更好的泛化能力。此外，LLM A*的人机交互特性使得规划过程更加透明和可控。

关键设计：关键设计包括：1）提示设计：如何设计有效的提示，引导LLM生成有用的启发式信息是关键。提示需要包含环境描述、目标信息、成本函数等，并可以根据人类反馈进行调整。2）LLM选择：选择合适的LLM，并根据具体任务进行微调，以提高LLM的推理能力。3）反馈机制：设计有效的反馈机制，让人类可以方便地对中间规划结果进行评价和指导。4）效用函数：定义合适的效用函数，用于评估路径的质量，并指导A*搜索。

📊 实验亮点

实验结果表明，LLM A在搜索空间方面比传统A和强化学习更有效率。在路径质量方面，LLM A可以达到与A相当的水平，并且优于强化学习。此外，LLM A*的人机交互特性使得规划过程更加透明和可控，能够有效融合人类的反馈，提升规划质量。

🎯 应用场景

LLM A*具有广泛的应用前景，例如：1）在复杂环境中进行机器人导航；2）在人机协作任务中，机器人可以根据人类的指导进行路径规划；3）在灾难救援场景中，机器人可以利用LLM的常识知识和人类的反馈，快速找到最佳救援路径。该研究有助于提高机器人的自主性和智能化水平，促进人机协作的发展。

📄 摘要（原文）

This research focuses on how Large Language Models (LLMs) can help with (path) planning for mobile embodied agents such as robots, in a human-in-the-loop and interactive manner. A novel framework named LLM A, aims to leverage the commonsense of LLMs, and the utility-optimal A is proposed to facilitate few-shot near-optimal path planning. Prompts are used for two main purposes: 1) to provide LLMs with essential information like environments, costs, heuristics, etc.; 2) to communicate human feedback on intermediate planning results to LLMs. This approach takes human feedback on board and renders the entire planning process transparent (akin to a `white box') to humans. Moreover, it facilitates code-free path planning, thereby fostering the accessibility and inclusiveness of artificial intelligence techniques to communities less proficient in coding. Comparative analysis against A and RL demonstrates that LLM A exhibits greater efficiency in terms of search space and achieves paths comparable to A while outperforming RL. The interactive nature of LLM A also makes it a promising tool for deployment in collaborative human-robot tasks. Codes and Supplemental Materials can be found at GitHub: https://github.com/speedhawk/LLM-A-.