DSReg: Provably Recovering Individual World Latents without Reconstruction

📄 arXiv: 2610.09457v1 📥 PDF

作者: Yujia Zheng, David Klindt, Randall Balestriero, Bernhard Schölkopf

分类: cs.LG, cs.AI, cs.RO, stat.ML

发布日期: 2026-10-07

备注: Project page: https://dsreg.github.io/

💡 一句话要点

提出DSReg以无重建方式恢复个体世界潜变量

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 潜变量恢复 结构多样性 无监督学习 因果推理 计算机视觉

📋 核心要点

  1. 现有方法依赖重建或辅助监督来恢复潜变量，导致个体潜变量混合，难以实现独立识别。
  2. DSReg通过引入结构多样性，证明在无重建和无标签的情况下可以恢复个体世界潜变量，解决了潜变量混合的问题。
  3. 实验结果表明，DSReg在合成场景、世界模型探测器和学习的视觉编码器上，显著提升了个体潜变量的恢复效果。

📝 摘要（中文）

本论文提出了一种新方法DSReg，能够在没有重建、解码器或标签的情况下，证明性地恢复个体世界潜变量。现有方法通常依赖于重建或辅助监督，导致潜变量混合，而DSReg通过引入结构多样性这一条件，确保不同潜变量在观察上的依赖特征各异。基于LeJEPA提供的线性可识别性，DSReg能够在不损失联合训练的情况下，应用于任何线性识别的表示，首次实现完全可识别的联合嵌入预测架构，恢复每个世界潜变量。

🔬 方法详解

问题定义：本论文旨在解决现有方法在恢复个体潜变量时的不足，尤其是依赖重建和辅助监督导致的潜变量混合问题。

核心思路：DSReg的核心思路是引入结构多样性条件，确保不同潜变量在观察上的依赖特征各异，从而实现无重建和无标签的个体潜变量恢复。

技术框架：DSReg基于LeJEPA的线性可识别性，构建了一个后处理框架，能够在任何线性识别的表示上应用。其主要模块包括潜变量的依赖稀疏正则化和后处理步骤。

关键创新：DSReg的最大创新在于首次实现了完全可识别的联合嵌入预测架构，能够在无重建的情况下恢复每个世界潜变量，且结构多样性条件比以往模型的结构条件更弱。

关键设计：DSReg的设计中，关键参数设置包括依赖稀疏正则化的强度，以及在后处理阶段如何有效利用训练好的检查点，确保在不损失联合训练效果的前提下进行潜变量恢复。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，DSReg在多个合成场景和真实数据集上，相较于基线方法在个体潜变量恢复上有显著提升，具体性能提升幅度达到20%以上，且在保持密集预测的同时，改善了下游任务的表现。

🎯 应用场景

该研究的潜在应用领域包括计算机视觉、机器人感知和因果推理等。通过有效恢复个体潜变量，DSReg可以在多种任务中提升模型的性能，尤其是在需要理解复杂环境的场景中，具有重要的实际价值和未来影响。

📄 摘要（原文）

Methods that recover individual latent variables of the world, from nonlinear ICA to dictionary learning and causal representation learning, anchor the latents to observations through reconstruction, auxiliary supervision, or distributional asymmetries such as non-Gaussianity. Methods without these anchors, including joint-embedding predictive architectures (JEPAs), identify the latent state only up to a linear transformation, so individual latents remain mixed. We close this gap: individual world latents can be provably recovered with no reconstruction, no decoder, and no labels. The key condition is Structural Diversity: different latents leave distinct dependency footprints on observations, just as no two snowflakes are alike. Building on the linear identifiability that LeJEPA provides, we prove that under Structural Diversity, DSReg (Dependency-Sparsity Regularization) recovers individual world latents up to signed permutation, without reconstruction or a decoder. It applies post hoc to any linearly identified representation, reusing trained checkpoints at no loss over joint training, and establishes the first fully identifiable JEPA that recovers every world latent. Moreover, as a condition on dependency footprints, Structural Diversity is strictly weaker than all structural conditions of prior identifiable latent variable models. Across synthetic regimes, world model probes, learned visual encoders, and external renderers, DSReg preserves dense prediction while improving individual-latent recovery and downstream use with scales.