IntactWorld: Joint World Modeling with Intact Features

📄 arXiv: 2610.11174v1 📥 PDF

作者: Boming Tan, Xiangdong Zhang, Yan Xia, Qi Zhu, Deyi Ji, Xue Yang, Shaofeng Zhang

分类: cs.CV

发布日期: 2026-10-08

💡 一句话要点

提出IntactWorld以解决视频生成模型的结构信息损失问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 视频生成 联合世界建模 完整特征 计算效率 深度学习

📋 核心要点

  1. 现有视频生成模型在理解真实世界逻辑方面存在不足，导致结构信息损失。
  2. IntactWorld通过联合世界建模架构和未压缩特征，解决了特征压缩带来的问题。
  3. 在VBench 2.0基准测试中，IntactWorld的性能提升了2.46分，显示出其有效性。

📝 摘要（中文）

尽管近期的视频生成模型能够合成高度真实的视觉效果，但它们缺乏对真实世界内在逻辑的真正理解。现有方法试图通过内化多样的世界知识来理解世界，但由于计算开销或维度对齐的限制，其学习过程不可避免地压缩特征，导致结构信息的严重损失。为了解决这一问题，我们提出了IntactWorld，这是一种利用未压缩的完整特征的联合世界建模架构。我们的框架通过在中间层预测干净特征，成功消除了优化瓶颈。此外，我们引入了全到紧凑训练范式，以降低计算开销，显著提高了效率。大量评估表明，IntactWorld在VBench 2.0基准上超越了现有基线2.46分。

🔬 方法详解

问题定义：论文旨在解决现有视频生成模型在理解真实世界逻辑时的结构信息损失问题。现有方法由于计算开销和维度对齐的限制，导致特征压缩，影响了模型的性能。

核心思路：IntactWorld的核心思路是利用未压缩的完整特征进行联合世界建模，通过在中间层预测干净特征，消除优化过程中的瓶颈，从而更好地理解和生成视频内容。

技术框架：整体架构包括多个模块，首先通过中间层预测干净特征，然后引入全到紧凑训练范式，使用高度精炼的CLS tokens替代原始特征，以降低计算开销和内存消耗。

关键创新：最重要的技术创新在于引入未压缩的完整特征和全到紧凑训练范式，这与现有方法通过压缩特征的方式形成了本质区别，显著提高了模型的效率和性能。

关键设计：在参数设置上，采用了优化的损失函数以支持中间层特征的预测，同时设计了单分支引导机制，减少了空间内存消耗11.4%和推理延迟43.8%。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在VBench 2.0基准测试中，IntactWorld的性能提升了2.46分，显著优于现有基线。同时，通过全到紧凑训练范式，模型的空间内存消耗减少了11.4%，推理延迟降低了43.8%，展示了其高效性。

🎯 应用场景

该研究的潜在应用领域包括视频生成、虚拟现实和增强现实等场景。通过提高模型对真实世界逻辑的理解能力，IntactWorld可以在多种应用中提供更高质量的视觉内容生成，推动相关技术的发展和应用。

📄 摘要（原文）

While recent video generation models synthesize highly realistic visuals, they lack a genuine understanding of intrinsic real-world logic. Existing methods attempt to understand the world by internalizing diverse world knowledge, yet constrained by computational overhead or dimensionality alignment, their learning processes inevitably compress features, causing a severe loss of structural information. To address this, we propose \textbf{IntactWorld}, a \textbf{Joint World Modeling Architecture} utilizing uncompressed \textbf{Intact Features}. Since data naturally reside on a low-dimensional manifold within a high-dimensional space, predicting the flow velocity $v$ within this uncompressed high-dimensional space induces a severe manifold gap. To successfully eliminate this optimization bottleneck, our framework instead predicts the clean feature $x_0$ at intermediate layers. Furthermore, to mitigate the computational overhead of incorporating complete world knowledge, we introduce a \textit{Full-to-Compact Training Paradigm}. By replacing raw full features with highly refined CLS tokens, this paradigm enables efficient single-branch guidance, reducing spatial memory consumption by 11.4\% and cutting inference latency by 43.8\%. Extensive evaluations demonstrate the effectiveness of IntactWorld, outperforming established baselines by 2.46 points on the VBench 2.0 benchmark.