When to Act: Calibrated Confidence for Reliable Human Intention Prediction in Assistive Robotics

📄 arXiv: 2601.04982v1 📥 PDF

作者: Johannes A. Gaus, Winfried Ilg, Daniel Haeufle

分类: cs.RO, cs.AI

发布日期: 2026-01-08

💡 一句话要点

提出基于校准置信度的触发框架，提升辅助机器人中人类意图预测的可靠性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 辅助机器人 意图预测 置信度校准 多模态融合 安全触发

📋 核心要点

  1. 现有辅助机器人意图预测模型置信度与实际准确率不匹配，导致安全风险。
  2. 通过后验校准方法，对齐模型置信度与经验可靠性，提升预测可靠性。
  3. 利用校准后的置信度驱动ACT/HOLD规则，实现安全可控的辅助行为。

📝 摘要（中文）

辅助设备在提供支持前，必须确定用户的意图以及预测的可靠性。本文提出了一种基于校准概率的安全关键触发框架，用于日常活动中多模态下一动作预测。原始模型的置信度通常不能反映真实的正确性，构成安全风险。后验校准将预测置信度与经验可靠性对齐，并在不影响准确性的前提下，将错误校准降低约一个数量级。校准后的置信度驱动一个简单的ACT/HOLD规则，仅在可靠性高时执行动作，否则停止辅助。这使得置信度阈值成为辅助动作的可量化安全参数，并在辅助控制回路中实现可验证的行为。

🔬 方法详解

问题定义：论文旨在解决辅助机器人中人类意图预测的可靠性问题。现有模型的置信度往往不能准确反映预测的正确性，导致辅助系统可能在错误的时间执行动作，从而产生安全隐患。因此，如何提高意图预测的置信度校准，确保辅助行为的安全性是关键挑战。

核心思路：论文的核心思路是通过后验校准方法，将模型的预测置信度与实际的预测准确率对齐。这样，模型输出的置信度就能更真实地反映预测的可靠程度，从而为辅助系统提供更可靠的决策依据。通过设定一个置信度阈值，辅助系统可以仅在置信度高于阈值时才执行动作，从而降低错误辅助的风险。

技术框架：该框架包含以下几个主要阶段：1) 多模态数据采集：收集用户日常活动中的多模态数据，例如视觉、语音、力觉等。2) 意图预测模型：使用深度学习模型（具体模型类型未知）对多模态数据进行处理，预测用户的下一个动作。3) 置信度校准：使用后验校准方法，例如温度缩放或等渗回归，对模型的预测置信度进行校准。4) ACT/HOLD规则：根据校准后的置信度，决定是否执行辅助动作。如果置信度高于设定的阈值，则执行动作（ACT），否则保持等待（HOLD）。

关键创新：该论文的关键创新在于将置信度校准应用于辅助机器人的人类意图预测中，并提出了基于校准置信度的安全触发框架。与传统的意图预测方法相比，该方法更加关注预测的可靠性，并通过校准手段提高了置信度的准确性。这使得辅助系统能够更加安全可靠地执行辅助动作。

关键设计：论文中关键的设计包括：1) 后验校准方法的选择：论文可能比较了不同的后验校准方法，例如温度缩放、等渗回归等，并选择了最适合该任务的方法（具体选择未知）。2) 置信度阈值的设定：论文需要确定一个合适的置信度阈值，以平衡辅助的及时性和安全性。阈值过高可能导致辅助过于保守，阈值过低可能导致错误辅助。3) ACT/HOLD规则的设计：该规则需要简单有效，能够根据校准后的置信度做出正确的决策。

📊 实验亮点

实验结果表明，后验校准方法能够显著降低模型的错误校准程度，降低幅度约为一个数量级，同时不影响预测准确性。通过使用校准后的置信度驱动ACT/HOLD规则，可以有效地提高辅助系统的安全性，减少错误辅助的发生。具体的性能数据和对比基线未知。

🎯 应用场景

该研究成果可广泛应用于各种辅助机器人场景，例如老年人照护、残疾人辅助、康复训练等。通过提高意图预测的可靠性，可以使辅助机器人更加安全、智能地为用户提供帮助，提升用户的生活质量。未来，该技术还可以应用于人机协作、自动驾驶等领域，实现更加安全可靠的人机交互。

📄 摘要（原文）

Assistive devices must determine both what a user intends to do and how reliable that prediction is before providing support. We introduce a safety-critical triggering framework based on calibrated probabilities for multimodal next-action prediction in Activities of Daily Living. Raw model confidence often fails to reflect true correctness, posing a safety risk. Post-hoc calibration aligns predicted confidence with empirical reliability and reduces miscalibration by about an order of magnitude without affecting accuracy. The calibrated confidence drives a simple ACT/HOLD rule that acts only when reliability is high and withholds assistance otherwise. This turns the confidence threshold into a quantitative safety parameter for assisted actions and enables verifiable behavior in an assistive control loop.