Deceptive Risk Minimization: Out-of-Distribution Generalization by Deceiving Distribution Shift Detectors

📄 arXiv: 2509.12081v1 📥 PDF

作者: Anirudha Majumdar

分类: cs.LG, cs.AI, cs.RO

发布日期: 2025-09-15

💡 一句话要点

提出欺骗性风险最小化(DRM)方法，通过欺骗分布偏移检测器实现OOD泛化。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 分布外泛化 领域泛化 欺骗性风险最小化 共形预测 机器人学习

📋 核心要点

  1. 现有OOD泛化方法依赖于领域划分或测试数据访问，限制了其应用范围和灵活性。
  2. DRM通过学习欺骗分布偏移检测器的特征表示，使训练数据呈现iid特性，从而提取稳定特征。
  3. 实验表明，DRM在概念漂移和协变量漂移环境中有效，无需领域划分或访问测试数据。

📝 摘要（中文）

本文提出了一种基于欺骗机制的分布外泛化(OOD)方法：通过学习数据表示，使训练数据对于观察者而言呈现出独立同分布(iid)的特性，从而识别出稳定的特征，消除虚假相关性，并泛化到未见过的领域。我们将这一原则称为欺骗性风险最小化(DRM)，并通过一个可微的目标函数来实现它，该目标函数同时学习消除分布偏移的特征（从基于共形鞅的检测器的角度来看）并最小化特定于任务的损失。与领域自适应或先验不变表示学习方法不同，DRM不需要访问测试数据或将训练数据划分为有限数量的数据生成领域。我们在概念漂移的数值实验以及机器人部署环境中协变量漂移的模拟模仿学习环境中证明了DRM的有效性。

🔬 方法详解

问题定义：现有的分布外泛化（OOD）方法，如领域自适应和不变表示学习，通常需要访问目标域数据或将训练数据划分为多个领域。这在实际应用中可能难以实现，限制了模型的泛化能力。因此，如何设计一种无需访问目标域数据或进行领域划分的OOD泛化方法是一个关键问题。

核心思路：DRM的核心思想是“欺骗”。具体来说，它旨在学习一种数据表示，使得训练数据对于一个分布偏移检测器而言，看起来像是独立同分布的。通过这种方式，模型可以避免学习到与特定训练环境相关的虚假相关性，从而提取出更稳定、更具泛化能力的特征。

技术框架：DRM包含两个主要组成部分：一个特征提取器和一个分布偏移检测器。特征提取器负责将原始数据转换为一种新的表示形式。分布偏移检测器则用于判断该表示形式是否符合独立同分布的假设。DRM的目标是同时优化这两个部分：一方面，特征提取器需要学习一种表示，使得分布偏移检测器难以检测到分布偏移；另一方面，特征提取器需要最小化特定任务的损失函数。

关键创新：DRM的关键创新在于其“欺骗”的思想。与传统的OOD泛化方法不同，DRM不依赖于显式的领域信息或不变性约束，而是通过学习一种“欺骗性”的表示来隐式地实现泛化。这种方法更加灵活，也更适用于复杂的、难以明确划分领域的情况。

关键设计：DRM使用基于共形鞅的检测器来检测分布偏移。共形预测是一种能够提供置信度估计的预测方法，可以用于构建敏感的分布偏移检测器。DRM通过一个可微的目标函数来实现，该目标函数包含两项：一项是特定任务的损失函数，另一项是分布偏移检测器的损失函数。通过同时最小化这两项损失，DRM可以学习到既能完成特定任务，又能避免学习到虚假相关性的特征表示。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

论文通过数值实验和模拟模仿学习实验验证了DRM的有效性。在概念漂移的数值实验中，DRM能够有效地消除虚假相关性，并泛化到新的概念。在模拟模仿学习实验中，DRM能够帮助机器人适应不同的环境，提高其在真实世界中的表现。

🎯 应用场景

DRM可应用于机器人、自动驾驶、医疗诊断等领域，在这些领域中，模型需要在不断变化的环境中保持高性能。例如，在机器人领域，DRM可以帮助机器人适应不同的光照条件、地形和物体外观，从而提高其在真实世界中的鲁棒性。

📄 摘要（原文）

This paper proposes deception as a mechanism for out-of-distribution (OOD) generalization: by learning data representations that make training data appear independent and identically distributed (iid) to an observer, we can identify stable features that eliminate spurious correlations and generalize to unseen domains. We refer to this principle as deceptive risk minimization (DRM) and instantiate it with a practical differentiable objective that simultaneously learns features that eliminate distribution shifts from the perspective of a detector based on conformal martingales while minimizing a task-specific loss. In contrast to domain adaptation or prior invariant representation learning methods, DRM does not require access to test data or a partitioning of training data into a finite number of data-generating domains. We demonstrate the efficacy of DRM on numerical experiments with concept shift and a simulated imitation learning setting with covariate shift in environments that a robot is deployed in.