Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning

📄 arXiv: 2609.35228v1 📥 PDF

作者: Hao-Xuan Ma, Yihao Liu, Yutao Sun, Yanting Miao, Mengyu Zhou, YiCheng Xiao, Long Chen, Zhenguo Li, Han-Jia Ye, Xiaoxi Jiang, Guanjun Jiang

分类: cs.CV, cs.AI

发布日期: 2026-09-28

备注: 20 pages, 4 figures

🔗 代码/项目: GITHUB

💡 一句话要点

提出Token-Disentangled潜在测试时间缩放以优化视觉语言推理

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉语言推理 潜在测试时间缩放 多模态学习 模型优化 反馈机制

📋 核心要点

  1. 现有的潜在测试时间缩放方法对所有潜在标记应用单一奖励，未能考虑标记在推理中的不同角色。
  2. 本文提出了一种新的推理框架，使潜在细化过程能够根据标记的角色进行优化，提升了推理的准确性。
  3. 实验结果表明，该方法在多个基准测试中显著提升了模型的宏观准确率，优于现有的基线方法。

📝 摘要（中文）

潜在测试时间缩放通过在推理过程中细化隐藏状态来提升推理能力，但现有方法通常对所有可编辑的潜在标记应用单一的标量奖励。这种全局更新忽视了生成标记在不同角色上的差异：有些标记对视觉证据敏感，而其他标记则对应于不确定的推理决策。本文提出了Token-Disentangled潜在测试时间缩放，这是一种推理时框架，使潜在细化过程能够感知标记角色。我们从初始生成轨迹出发，优化短的隐藏状态前缀，同时将感知侧的视觉反馈路由到对图像敏感的标记，并将推理反馈路由到高熵标记。未被任何路由选择的标记则受到锚点正则化的约束。我们的算法在Qwen2.5-VL-7B和InternVL3.5-8B的感知和推理基准上，分别提升了宏观准确率2.57和1.51，并在匹配解码候选预算下超越了强大的输出空间测试时间缩放基线。代码可在https://github.com/Qwen-Applications/TD-LTTS获取。

🔬 方法详解

问题定义：本文旨在解决现有潜在测试时间缩放方法对所有潜在标记应用单一奖励的问题。这种方法未能考虑不同标记在推理过程中的角色差异，导致推理效果不佳。

核心思路：提出Token-Disentangled潜在测试时间缩放框架，使得潜在细化过程能够感知标记的角色。通过将视觉反馈和推理反馈分别路由到不同的标记，优化推理过程。

技术框架：整体架构包括初始生成轨迹的优化、视觉反馈路由和推理反馈路由。具体来说，优化的是短的隐藏状态前缀，同时对未被选择的标记施加锚点正则化。

关键创新：最重要的创新在于将潜在标记的角色与反馈机制结合，使得模型在推理时能够针对不同标记进行有针对性的优化。这一设计与传统方法的全局更新方式形成鲜明对比。

关键设计：在参数设置上，优化的短隐藏状态前缀和锚点正则化的具体实现是关键设计。此外，视觉反馈和推理反馈的路由机制也是实现效果提升的重要因素。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，Token-Disentangled潜在测试时间缩放在Qwen2.5-VL-7B和InternVL3.5-8B基准上分别提升了宏观准确率2.57和1.51，超越了强大的输出空间测试时间缩放基线，证明了其有效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括多模态推理、计算机视觉与自然语言处理的结合等。通过提升模型在视觉和语言理解上的能力，该方法可以在智能助手、自动问答系统及图像描述生成等实际场景中发挥重要作用，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Latent test-time scaling improves reasoning by refining hidden states during inference, but existing methods typically apply a single scalar reward to all editable latent tokens. For multimodal large language models, this global update ignores that generated tokens play different roles: some are sensitive to visual evidence, while others correspond to uncertain reasoning decisions. We present Token-Disentangled Latent Test-Time Scaling, an inference-time framework that makes latent refinement token-role-aware. Starting from an initial generated trajectory, we optimize a short hidden-state prefix while routing perception-side visual feedback to image-sensitive tokens and reasoning feedback to high-entropy tokens. Tokens selected by neither route are constrained by an anchor regularizer. Across both perception and reasoning benchmarks on Qwen2.5-VL-7B and InternVL3.5-8B, our method lifts macro accuracy over CoT by +2.57 and +1.51 respectively, and outperforms strong output-space test-time scaling baselines under matched decoded-candidate budgets. Code is available at https://github.com/Qwen-Applications/TD-LTTS.