Test-Time Scaling for Small VLMs on Multilingual Visual MCQ

📄 arXiv: 2607.09438v1 📥 PDF

作者: Spiros Baxevanakis, Peng-Jian Yang

分类: cs.CL, cs.AI, cs.LG

发布日期: 2026-07-10

备注: 14 pages, 2 figures, accepted at ImageCLEF 2026

💡 一句话要点

提出测试时缩放方法以提升小型视觉语言模型的推理能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉语言模型 推理能力 测试时缩放 多语言处理 多模态学习

📋 核心要点

  1. 现有方法在小型视觉语言模型中应用测试时缩放（TTS）效果不佳，推理能力提升有限。
  2. 论文提出通过优化提示格式和解码预算来提升小型模型的推理能力，强调可解析性的重要性。
  3. 实验结果显示，最佳配置在ImageCLEF 2026测试集上达到了84.1%的准确率，显著超越其他基线方法。

📝 摘要（中文）

测试时缩放（TTS）方法能够可靠地提升大型语言模型的推理能力，但其在小型开放视觉语言模型中的有效性尚不明确。本文通过EXAMS-V多语言视觉多项选择基准，比较了自一致性、描述后推理与PRM引导的束搜索等方法。研究发现，TTS的有效性与其运行条件密切相关，尤其是可解析性。通过优化提示格式和解码预算，显著提升了模型的推理表现，最终在ImageCLEF 2026测试集上达到了84.1%的准确率，位列视觉多项选择排行榜第一。

🔬 方法详解

问题定义：本文旨在探讨测试时缩放（TTS）在小型视觉语言模型中的有效性，现有方法在推理时缺乏灵活性，导致模型未能充分利用可用信息。

核心思路：论文提出通过优化提示格式和解码预算来提升模型的推理能力，特别关注可解析性，以确保模型能够有效地做出决策。

技术框架：研究采用EXAMS-V基准进行评估，比较了多种推理策略，包括自一致性、描述后推理和PRM引导的束搜索，分析不同条件下的表现差异。

关键创新：最重要的创新在于识别出可解析性对推理结果的影响，并通过调整提示格式和解码预算显著提升了模型的表现。

关键设计：关键参数包括将每个链的令牌限制从1k提升至2k，显著提高了推理准确率，同时在链的数量上进行适度调整（从8增加到16）对结果的提升有限。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，最佳配置在ImageCLEF 2026测试集上达到了84.1%的准确率，较基线提升了11.4个百分点。相比之下，PRM引导的束搜索在成本上超过了自一致性方法，但效果却不如后者，显示出方法的有效性和高效性。

🎯 应用场景

该研究的潜在应用领域包括多语言视觉问答、教育评估系统和智能助理等。通过提升小型视觉语言模型的推理能力，能够在资源受限的环境中实现更高效的多模态理解，具有重要的实际价值和广泛的未来影响。

📄 摘要（原文）

Test-time scaling (TTS) reliably improves reasoning in large language models, but whether it transfers to small open vision-language models remains unclear. We examine this on EXAMS-V, a multilingual visual multiple-choice benchmark, comparing self-consistency, describe-then-reason with PRM-guided beam search, and two post-hoc selectors across Qwen2.5-VL-7B-Instruct and Qwen3.5-4B. What matters is the conditions under which TTS runs, not the search or verification machinery. The largest factor is parseability: an early prompt format left many chains reasoning correctly yet never committing to an answer letter, which a standard answer cue and a guided repair step largely remove. A larger decoding budget removes the rest: raising the per-chain token limit from 1k to 2k recovers 3.7 pp, whereas sampling more chains (8 to 16) adds only 0.15 pp. Once chains have room to finish, elaborate methods contribute little: PRM-guided beam search trails plain self-consistency by 0.39 pp at over eight times the cost, and neither a training-free generative critic nor a trained multimodal PRM beats majority vote across both policies. The largest gain comes instead from the policy model itself (+11.4 pp). Our best configuration reaches 84.1% on the held-out ImageCLEF 2026 test split, ranking first on the Visual MCQ leaderboard.