INTCORT: Training-Free Spatial Reasoning Enhancement for Vision-Language Models via Input Transformations and Confidence Routing

📄 arXiv: 2609.24813v1 📥 PDF

作者: Haoran Sun, Jingqi Xu, Yanhui Li, Enci Liu, Kaidi Xu, Yanwei Liu

分类: cs.CV

发布日期: 2026-09-21


💡 一句话要点

提出INTCORT以解决视觉语言模型空间推理不足问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 视觉语言模型 空间推理 输入变换 置信度路由 多模态任务 训练无关增强 关系标记

📋 核心要点

  1. 现有视觉语言模型在空间推理能力上表现不佳,现有增强方法面临高计算成本和灾难性遗忘等问题。
  2. 本文提出INTCORT框架,通过输入变换构建多个推理视图,并利用关系标记置信度进行预测聚合,避免了对模型内部机制的修改。
  3. 实验结果显示,INTCORT在多个基准测试中平均提升空间推理准确性10.01%,与先前方法相比,最高提升可达25.01%。

📝 摘要(中文)

视觉语言模型(VLMs)在多模态任务中展现了卓越的能力,但在空间推理方面仍存在不足。现有的增强方法,无论是依赖训练还是不依赖训练,都面临高计算成本、灾难性遗忘和内部机制干扰等问题。本文首先验证了两个关键假设:适当的几何图像变换和查询反转变换能够恢复不正确的空间预测,而正确的预测在关系标记置信度上高于不正确的预测。基于这些发现,本文提出了INTCORT,一个训练无关的空间推理增强框架,通过输入变换构建多个推理视图,并通过关系标记置信度路由聚合其预测,而无需修改VLM的内部机制。实验结果表明,INTCORT在多个常用基准上显著提高了空间推理准确性,所有模型和基准的平均提升达到10.01%。与之前的工作相比,INTCORT的性能提升最高可达25.01%。

🔬 方法详解

问题定义:本文旨在解决视觉语言模型在空间推理方面的不足,现有方法在增强过程中存在高计算成本和灾难性遗忘等痛点。

核心思路:INTCORT的核心思路是通过输入变换生成多个推理视图,并利用关系标记置信度来聚合这些视图的预测,从而提升空间推理的准确性。这样的设计避免了对模型内部机制的干扰,保持了模型的通用性。

技术框架:INTCORT框架主要包括两个模块:输入变换模块和置信度路由模块。输入变换模块负责生成不同的推理视图,而置信度路由模块则根据关系标记的置信度对这些视图的预测进行加权聚合。

关键创新:INTCORT的创新点在于提出了一种训练无关的空间推理增强方法,通过输入变换和置信度路由来提升模型的推理能力,与现有方法相比,避免了灾难性遗忘和内部机制干扰。

关键设计:在设计中,INTCORT采用了几何图像变换和查询反转变换来生成推理视图,并通过计算关系标记的置信度来进行预测聚合,确保了模型在不同任务中的适应性和准确性。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果表明,INTCORT在多个基准测试中显著提升了空间推理的准确性,所有模型和基准的平均提升达到10.01%。与之前的工作相比,INTCORT的性能提升最高可达25.01%,显示出其在空间推理任务中的优越性。

🎯 应用场景

该研究的潜在应用领域包括智能助理、自动驾驶、机器人视觉等多模态任务场景。通过提升视觉语言模型的空间推理能力,INTCORT可以在更复杂的环境中实现更高效的决策和交互,具有重要的实际价值和未来影响。

📄 摘要(原文)

Vision-Language Models (VLMs) have demonstrated remarkable capabilities in multimodal tasks, yet they still exhibit poor ability in spatial reasoning. Existing training-dependent and training-free enhancement methods suffer from high computational costs with catastrophic forgetting and internal mechanism interference that compromises general capabilities, respectively. In this work, we first verify two key hypotheses: appropriate geometric image transformation and query-reversal transformation can recover incorrect spatial predictions, and correct predictions exhibit higher relation-token confidence than incorrect ones. Based on these findings, we propose INTCORT, a training-free spatial reasoning enhancement framework that constructs multiple inference views through input transformations and aggregates their predictions via relation-token confidence routing, without modifying the VLM's internal mechanisms. Experimental results on several commonly-used benchmarks demonstrate that INTCORT substantially improves spatial reasoning accuracy across diverse VLMs, achieving an average improvement of 10.01% over all models and benchmarks. Compared with prior works, INTCORT achieves superior performance with improvements of up to 25.01%.