Statistical Reachability Analysis of Stochastic Cyber-Physical Systems under Distribution Shift
作者: Navid Hashemi, Lars Lindemann, Jyotirmoy V. Deshmukh
分类: cs.RO, cs.AI, eess.SP, eess.SY
发布日期: 2024-07-16
💡 一句话要点
提出一种基于鲁棒共形推断的统计可达性分析方法，用于解决分布偏移下的随机CPS安全验证问题。
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 可达性分析 随机信息物理系统 分布偏移 鲁棒共形推断 安全验证 数字孪生 替代模型
📋 核心要点
- 现有SCPS可达性分析方法依赖于系统动力学的符号描述，但在实际部署中，由于sim2real差距，仿真模型与真实系统存在分布偏移，导致分析结果不可靠。
- 该论文提出一种基于统计的reachability analysis方法，通过学习替代模型并结合鲁棒共形推断，量化分布偏移的影响，从而保证在部署环境下的安全。
- 实验结果表明，该方法在多种案例中有效，通过最小化分位数损失和使用归一化替代误差，可以减少可达集合的保守性，提供更准确的安全保证。
📝 摘要（中文）
本文研究了随机信息物理系统（SCPS）的可达性分析问题，该系统没有动力学的符号描述，而是使用数字孪生模型进行描述，通过仿真生成系统轨迹。一个重要的挑战是，仿真器隐式地对SCPS轨迹集合上的概率分布进行建模；然而，通常存在sim2real差距，即部署环境中轨迹的实际分布可能与仿真器假设的分布发生偏移。因此，我们提出了一种统计可达性分析技术，给定用户提供的阈值$1-ε$，提供一个集合，保证部署期间的任何可达状态都以不小于该阈值的概率位于该集合中。我们的方法基于三个主要步骤：（1）从采样的轨迹中学习一个确定性的替代模型；（2）对替代模型进行可达性分析；（3）使用额外的采样轨迹，采用鲁棒共形推断来量化替代模型相对于已部署SCPS的分布偏移。为了减少可达集合的保守性，我们提出了一种新的训练替代模型的方法，该方法最小化分位数损失项（而不是通常的均方损失），以及一种使用归一化替代误差，通过共形推断提供更严格保证的新方法。我们在各种案例研究中证明了我们技术的有效性。
🔬 方法详解
问题定义：论文旨在解决随机信息物理系统（SCPS）在存在分布偏移情况下的可达性分析问题。传统的reachability analysis方法依赖于精确的系统动力学模型，但在实际应用中，通常只能通过仿真得到近似的数字孪生模型。由于sim2real差距，仿真模型与真实系统之间存在分布偏移，导致基于仿真模型的可达性分析结果在真实系统中失效。因此，如何在分布偏移下保证SCPS的安全性是一个关键挑战。
核心思路：论文的核心思路是利用统计方法来量化和补偿分布偏移带来的不确定性。首先，通过仿真数据学习一个确定性的替代模型，然后对该模型进行可达性分析。为了解决分布偏移问题，论文采用鲁棒共形推断（Robust Conformal Inference）来估计替代模型与真实系统之间的差异，并将其纳入可达性分析中，从而得到一个具有概率保证的安全集合。
技术框架：该方法主要包含三个阶段：（1）替代模型学习：利用仿真数据训练一个确定性的替代模型，用于近似SCPS的动力学。（2）可达性分析：对替代模型进行可达性分析，得到一个初始的可达状态集合。（3）鲁棒共形推断：使用额外的采样轨迹，通过鲁棒共形推断来量化替代模型与真实系统之间的分布偏移，并调整可达状态集合，以保证在给定的置信水平下，真实系统的所有可达状态都包含在该集合中。
关键创新：论文的关键创新在于：（1）将鲁棒共形推断应用于SCPS的可达性分析，从而能够处理分布偏移问题。（2）提出了一种新的训练替代模型的方法，该方法最小化分位数损失项，从而减少可达集合的保守性。（3）提出了一种使用归一化替代误差的共形推断方法，可以提供更严格的安全保证。与传统方法相比，该方法不需要精确的系统动力学模型，并且能够处理分布偏移带来的不确定性。
关键设计：在替代模型学习阶段，论文使用分位数损失函数来训练模型，而不是常用的均方误差损失。分位数损失能够更好地捕捉系统的不确定性，从而减少可达集合的保守性。在鲁棒共形推断阶段，论文使用归一化替代误差来计算置信区间，从而提供更严格的安全保证。具体的参数设置包括分位数的选择、共形推断的置信水平等。这些参数需要根据具体的应用场景进行调整。
🖼️ 关键图片
📊 实验亮点
论文在多个案例研究中验证了该方法的有效性。实验结果表明，通过最小化分位数损失和使用归一化替代误差，可以显著减少可达集合的保守性，提供更准确的安全保证。具体的性能数据和对比基线在论文中进行了详细的展示，证明了该方法在处理分布偏移问题方面的优势。
🎯 应用场景
该研究成果可应用于自动驾驶、机器人控制、航空航天等领域，用于验证系统在不确定环境下的安全性。例如，在自动驾驶中，可以利用该方法验证车辆在各种交通场景下的安全性，即使仿真环境与真实环境存在差异。该方法可以提高系统的可靠性和安全性，降低事故发生的风险，具有重要的实际应用价值和广阔的应用前景。
📄 摘要（原文）
Reachability analysis is a popular method to give safety guarantees for stochastic cyber-physical systems (SCPSs) that takes in a symbolic description of the system dynamics and uses set-propagation methods to compute an overapproximation of the set of reachable states over a bounded time horizon. In this paper, we investigate the problem of performing reachability analysis for an SCPS that does not have a symbolic description of the dynamics, but instead is described using a digital twin model that can be simulated to generate system trajectories. An important challenge is that the simulator implicitly models a probability distribution over the set of trajectories of the SCPS; however, it is typical to have a sim2real gap, i.e., the actual distribution of the trajectories in a deployment setting may be shifted from the distribution assumed by the simulator. We thus propose a statistical reachability analysis technique that, given a user-provided threshold $1-ε$, provides a set that guarantees that any reachable state during deployment lies in this set with probability not smaller than this threshold. Our method is based on three main steps: (1) learning a deterministic surrogate model from sampled trajectories, (2) conducting reachability analysis over the surrogate model, and (3) employing {\em robust conformal inference} using an additional set of sampled trajectories to quantify the surrogate model's distribution shift with respect to the deployed SCPS. To counter conservatism in reachable sets, we propose a novel method to train surrogate models that minimizes a quantile loss term (instead of the usual mean squared loss), and a new method that provides tighter guarantees using conformal inference using a normalized surrogate error. We demonstrate the effectiveness of our technique on various case studies.