Towards Reliable LLM-based Robot Planning via Combined Uncertainty Estimation

📄 arXiv: 2510.08044v1 📥 PDF

作者: Shiyuan Yin, Chenjia Bai, Zihao Zhang, Junwei Jin, Xinxin Zhang, Chi Zhang, Xuelong Li

分类: cs.RO, cs.AI

发布日期: 2025-10-09

💡 一句话要点

提出CURE，结合不确定性估计，提升LLM机器人规划的可靠性

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 机器人规划 不确定性估计 认知不确定性 内在不确定性 随机网络蒸馏 多层感知器 具身智能

📋 核心要点

  1. 现有基于LLM的机器人规划方法易受LLM幻觉影响，产生不安全或错位的计划，且不确定性估计方法未能充分区分认知和内在不确定性。
  2. CURE方法将不确定性分解为认知和内在不确定性，并进一步将认知不确定性细分为任务清晰度和任务熟悉度，从而实现更精确的不确定性评估。
  3. 在厨房操作和桌面重排实验中，CURE方法生成的不确定性估计与实际执行结果的对齐程度优于现有方法，验证了其有效性。

📝 摘要（中文）

大型语言模型(LLM)展现了先进的推理能力，使机器人能够理解自然语言指令并生成具有适当基础的高级规划。然而，LLM的幻觉是一个重大挑战，常常导致过度自信但可能错位或不安全的计划。虽然研究人员已经探索了不确定性估计来提高基于LLM的规划的可靠性，但现有研究尚未充分区分认知不确定性和内在不确定性，限制了不确定性估计的有效性。在本文中，我们提出了用于可靠具身规划的组合不确定性估计(CURE)，它将不确定性分解为认知不确定性和内在不确定性，分别进行估计。此外，认知不确定性被细分为任务清晰度和任务熟悉度，以进行更准确的评估。使用随机网络蒸馏和由LLM特征驱动的多层感知器回归头获得总体不确定性评估。我们在两种不同的实验环境中验证了我们的方法：厨房操作和桌面重排实验。结果表明，与现有方法相比，我们的方法产生的不确定性估计与实际执行结果更加一致。

🔬 方法详解

问题定义：论文旨在解决基于大型语言模型（LLM）的机器人规划中，由于LLM的“幻觉”问题导致规划结果不可靠，甚至出现安全隐患的问题。现有方法在进行不确定性估计时，未能充分区分认知不确定性（epistemic uncertainty）和内在不确定性（intrinsic uncertainty），导致不确定性评估不够准确，无法有效指导机器人规划。

核心思路：论文的核心思路是将总体不确定性分解为认知不确定性和内在不确定性，并分别进行估计。认知不确定性反映了模型对任务理解的不足，而内在不确定性则反映了环境本身的随机性。更进一步，认知不确定性被细分为任务清晰度和任务熟悉度，以便更精确地评估模型对不同任务的理解程度。通过更细粒度的不确定性估计，可以更准确地评估LLM规划的可靠性。

技术框架：CURE方法的整体框架包括以下几个主要模块：1) LLM特征提取：利用LLM提取任务相关的特征表示。2) 不确定性分解：将总体不确定性分解为认知不确定性和内在不确定性。3) 认知不确定性评估：进一步将认知不确定性分解为任务清晰度和任务熟悉度，并分别进行评估。4) 内在不确定性评估：评估环境的内在随机性。5) 不确定性融合：将各种不确定性估计结果融合，得到最终的总体不确定性评估。6) 规划可靠性评估：利用总体不确定性评估结果，评估LLM生成的机器人规划的可靠性。

关键创新：论文最重要的技术创新点在于对不确定性的分解和细化。与现有方法笼统地估计总体不确定性不同，CURE方法将不确定性分解为认知和内在两部分，并进一步细化认知不确定性。这种细粒度的不确定性估计能够更准确地反映LLM规划的可靠性，从而提高机器人规划的安全性。

关键设计：在具体实现上，论文采用了随机网络蒸馏（random network distillation）来估计内在不确定性。对于认知不确定性的评估，论文使用了多层感知器（MLP）回归头，其输入为LLM提取的特征。损失函数的设计旨在使MLP的输出能够准确反映任务的清晰度和熟悉度。具体的参数设置和网络结构细节在论文中有详细描述。

📊 实验亮点

实验结果表明，CURE方法在厨房操作和桌面重排两个实验环境中，能够更准确地估计LLM规划的不确定性，与实际执行结果的对齐程度优于现有方法。这意味着CURE方法能够更有效地识别潜在的错误或不安全规划，从而提高机器人规划的可靠性。具体的性能提升数据需要在论文中查找。

🎯 应用场景

该研究成果可应用于各种需要机器人进行自主规划的场景，例如智能家居、工业自动化、医疗辅助等。通过提高LLM机器人规划的可靠性，可以减少人为干预，提高工作效率，并降低安全风险。未来，该方法可以进一步扩展到更复杂的任务和环境，并与其他机器人技术相结合，实现更智能、更安全的机器人应用。

📄 摘要（原文）

Large language models (LLMs) demonstrate advanced reasoning abilities, enabling robots to understand natural language instructions and generate high-level plans with appropriate grounding. However, LLM hallucinations present a significant challenge, often leading to overconfident yet potentially misaligned or unsafe plans. While researchers have explored uncertainty estimation to improve the reliability of LLM-based planning, existing studies have not sufficiently differentiated between epistemic and intrinsic uncertainty, limiting the effectiveness of uncertainty estimation. In this paper, we present Combined Uncertainty estimation for Reliable Embodied planning (CURE), which decomposes the uncertainty into epistemic and intrinsic uncertainty, each estimated separately. Furthermore, epistemic uncertainty is subdivided into task clarity and task familiarity for more accurate evaluation. The overall uncertainty assessments are obtained using random network distillation and multi-layer perceptron regression heads driven by LLM features. We validated our approach in two distinct experimental settings: kitchen manipulation and tabletop rearrangement experiments. The results show that, compared to existing methods, our approach yields uncertainty estimates that are more closely aligned with the actual execution outcomes.