DRT: Dense Reasoning Trace for Efficient and Grounded Multimodal Reasoning
作者: Wan Xu, Yuanfan Guo, Kevin Han, LaLa Chen, Wangmeng Zuo
分类: cs.CV
发布日期: 2026-09-18
🔗 代码/项目: GITHUB
💡 一句话要点
提出DRT以解决多模态推理中的语言冗余问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多模态推理 密集推理轨迹 链式思维 强化学习 视觉推理 自然语言处理 模型效率
📋 核心要点
- 现有的多模态推理方法在自然语言表达上存在冗余，导致信息稀释和视觉基础薄弱。
- 本文提出密集推理轨迹（DRT），通过结构化轨迹表达推理，减少语言冗余，提高推理效率。
- 实验结果显示，DRT在推理基准上实现了5.5倍的令牌效率提升，并在准确率上超越了Qwen3-VL基线1.3个百分点。
📝 摘要（中文）
尽管多模态大型语言模型（MLLMs）取得了显著进展，但现有的链式思维（CoT）方法仍然局限于自然语言表达，导致语言冗余和信息稀释。为了解决这一挑战，本文提出了密集推理轨迹（DRT）方法，通过紧凑的结构化轨迹表达推理，包含简洁的中间状态和符号连接，解耦视觉观察与逻辑推理。我们引入密集轨迹初始化，将DRT推理模式内化到模型中，显著提高了令牌效率，同时保留了视觉证据。此外，我们提出了基于轨迹的强化学习框架，通过三视角验证管道构建参考轨迹，并采用结构化奖励的轨迹引导GRPO，鼓励模型生成简洁的DRT风格轨迹，减少幻觉并增强逻辑基础。大量实验表明，DRT在推理基准上实现了5.5倍的令牌效率提升，同时在Qwen3-VL基线的基础上提高了1.3个准确率点。
🔬 方法详解
问题定义：本文旨在解决现有多模态推理方法中存在的语言冗余和信息稀释问题，尤其是在链式思维（CoT）框架下的局限性。
核心思路：提出密集推理轨迹（DRT）方法，通过结构化的紧凑轨迹表达推理过程，解耦视觉观察与逻辑推理，从而提高推理的效率和准确性。
技术框架：整体架构包括密集轨迹初始化和基于轨迹的强化学习框架。密集轨迹初始化将DRT推理模式内化到模型中，而基于轨迹的强化学习则通过三视角验证管道构建参考轨迹。
关键创新：最重要的创新在于通过结构化的轨迹表达推理过程，显著减少了语言冗余，增强了逻辑基础，与传统的自然语言中心的推理方法形成鲜明对比。
关键设计：在设计中，采用了结构化奖励的轨迹引导GRPO，鼓励生成简洁的DRT风格轨迹，并通过参数设置优化模型的推理效率和准确性。具体的损失函数和网络结构细节在实验中进行了验证。
🖼️ 关键图片
📊 实验亮点
实验结果表明，DRT在推理基准上实现了5.5倍的令牌效率提升，同时在准确率上较Qwen3-VL基线提高了1.3个百分点。这些结果表明，复杂的多模态推理不再需要冗长的自然语言轨迹，开辟了更高效的研究路径。
🎯 应用场景
该研究的潜在应用领域包括智能问答系统、视觉推理任务和人机交互等。通过提高多模态推理的效率和准确性，DRT方法有望在实际应用中减少计算资源消耗，提升用户体验，推动下一代多模态大型语言模型的发展。
📄 摘要（原文）
Despite the remarkable progress in Multimodal Large Language Models (MLLMs), prevailing Chain-of-Thought (CoT) paradigms remain confined to the natural-language expression space. Consequently, they inherently incur excessive linguistic overhead, leading to information dilution and weak visual grounding. To address this challenge, we propose Dense Reasoning Trace (DRT), a paradigm that departs from natural-language-centered CoT by expressing reasoning as compact structured traces, which include concise intermediate states with symbolic connectors and disentangle visual observations from logical deductions. First, we introduce the Dense Trace Initialization to internalize the DRT reasoning mode into the model, substantially improving token efficiency while preserving visual evidence. To further enable the model to faithfully capture the logical relations within traces, we propose the Trace-Grounded Reinforcement Learning framework, which builds reference traces through a tri-perspective verification pipeline and employs Trace-Grounded GRPO with structured rewards, encouraging the model to generate concise DRT-style traces with reduced hallucination and stronger logical grounding. Extensive experiments on challenging reasoning benchmarks show that DRT achieves 5.5$\times$ token efficiency improvement while improving 1.3 accuracy points over the Qwen3-VL baseline. These findings suggest that complex multimodal reasoning may not require verbose natural-language traces, opening a more efficient path for next-generation MLLMs. Our code and data are available at: https://github.com/HIT-leaderone/DRT