Safety-Critical Control with Uncertainty Quantification using Adaptive Conformal Prediction
作者: Hao Zhou, Yanze Zhang, Wenhao Luo
分类: cs.RO
发布日期: 2024-07-04 (更新: 2024-07-08)
备注: 7 pages, accepted to ACC 2024
💡 一句话要点
提出基于自适应共形预测的安全控制框架，解决机器人运动噪声未知分布下的安全控制问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 安全控制 共形预测 控制障碍函数 模型预测控制 不确定性量化
📋 核心要点
- 现有机器人安全控制方法依赖于对不确定性分布的假设，实际应用中难以准确获得，导致安全保证失效。
- 该论文提出一种基于自适应共形预测的安全控制框架，无需预先假设噪声分布，实现高概率安全控制。
- 通过多机器人系统仿真验证了该框架的有效性，表明其能够在未知噪声分布下保证机器人安全运行。
📝 摘要（中文）
本文提出了一种新颖的安全控制框架，为随机动态系统在运动噪声未知分布下提供高概率安全保证。该框架采用自适应共形预测，从在线观测中动态量化预测不确定性，并将其与控制障碍函数（CBFs）的概率扩展相结合，以表征不确定性感知控制约束。通过将这些约束集成到模型预测控制方案中，机器人能够在无分布假设下自适应地在线捕获真实的预测不确定性，并享有形式上可证明的高概率安全保证。在具有随机单积分器动力学和单车动力学的多机器人系统上的仿真结果证明了该框架的有效性。
🔬 方法详解
问题定义：论文旨在解决机器人安全控制中，由于运动噪声分布未知或难以准确建模，导致传统安全控制方法失效的问题。现有方法通常假设噪声服从特定分布，但实际应用中，这种假设往往不成立，从而导致安全保证无法满足。因此，如何在未知噪声分布的情况下，保证机器人安全运行是一个重要的挑战。
核心思路：论文的核心思路是利用自适应共形预测（Adaptive Conformal Prediction）来动态地量化预测的不确定性，并将其融入到安全控制设计中。共形预测是一种无分布的预测方法，它能够根据在线观测数据，自适应地估计预测区间的置信度。通过将这种不确定性估计与控制障碍函数（CBFs）相结合，可以设计出能够应对未知噪声分布的安全控制器。
技术框架：该框架主要包含以下几个模块：1) 数据收集模块：在线收集机器人的运动数据，包括状态和控制输入。2) 自适应共形预测模块：利用收集到的数据，自适应地估计预测的不确定性，生成具有一定置信度的预测区间。3) 控制障碍函数（CBFs）模块：基于预测区间，构建概率控制障碍函数，确保机器人的状态始终保持在安全区域内。4) 模型预测控制（MPC）模块：将概率CBF作为约束条件，设计模型预测控制器，实现安全控制。
关键创新：该论文的关键创新在于将自适应共形预测与控制障碍函数相结合，提出了一种无分布的安全控制框架。与现有方法相比，该方法不需要预先假设噪声分布，能够更好地适应实际应用中的复杂环境。此外，该方法还提供了形式化的安全保证，确保机器人以高概率安全运行。
关键设计：在自适应共形预测模块中，需要选择合适的预测模型和共形预测算法。在控制障碍函数模块中，需要合理设计CBF函数，并选择合适的置信度水平。在模型预测控制模块中，需要选择合适的优化算法和控制时域。这些参数的选择会影响控制器的性能和安全性。
🖼️ 关键图片
📊 实验亮点
论文通过多机器人系统仿真验证了所提出框架的有效性。实验结果表明，该框架能够在未知噪声分布下，保证机器人以高概率安全运行。具体而言，在具有随机单积分器动力学和单车动力学的多机器人系统中，该框架能够有效地避免碰撞，并保持机器人在安全区域内运行。实验结果还表明，该框架能够自适应地调整预测区间的大小，从而在保证安全性的同时，提高控制器的性能。
🎯 应用场景
该研究成果可应用于各种需要在不确定环境下安全运行的机器人系统，例如自动驾驶汽车、无人机、移动机器人等。特别是在环境感知不确定性较高或难以建模的场景下，该方法能够提供更可靠的安全保障，提高机器人系统的鲁棒性和可靠性。此外，该方法还可以推广到其他安全关键系统，例如工业自动化、医疗机器人等。
📄 摘要（原文）
Safety assurance is critical in the planning and control of robotic systems. For robots operating in the real world, the safety-critical design often needs to explicitly address uncertainties and the pre-computed guarantees often rely on the assumption of the particular distribution of the uncertainty. However, it is difficult to characterize the actual uncertainty distribution beforehand and thus the established safety guarantee may be violated due to possible distribution mismatch. In this paper, we propose a novel safe control framework that provides a high-probability safety guarantee for stochastic dynamical systems following unknown distributions of motion noise. Specifically, this framework adopts adaptive conformal prediction to dynamically quantify the prediction uncertainty from online observations and combines that with the probabilistic extension of the control barrier functions (CBFs) to characterize the uncertainty-aware control constraints. By integrating the constraints in the model predictive control scheme, it allows robots to adaptively capture the true prediction uncertainty online in a distribution-free setting and enjoys formally provable high-probability safety assurance. Simulation results on multi-robot systems with stochastic single-integrator dynamics and unicycle dynamics are provided to demonstrate the effectiveness of our framework.