Architectural Sampling: Test-Time Scaling via Computational Diversity in Frozen Vision-Language Models
作者: Akshit Singh, Shyam Marjit, Wei Lin, Leonid Karlinsky, M. Jehanzeb Mirza
分类: cs.CV, cs.AI
发布日期: 2026-10-01
💡 一句话要点
提出建筑采样方法以提升冻结视觉-语言模型的测试时间扩展能力
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 建筑采样 视觉-语言模型 测试时间扩展 多模态学习 计算多样性
📋 核心要点
- 现有的测试时间扩展方法通常在固定计算路径上生成候选，导致计算效率低下和候选多样性不足。
- 本文提出的建筑采样方法通过重用解码器层的不同块，生成多样化的候选，而无需对模型进行训练或更新。
- 实验结果表明，建筑采样在多个基准上显著提高了候选的覆盖率和准确性，尤其是在重用早期层时效果最佳。
📝 摘要（中文）
测试时间扩展通常通过从冻结模型中采样多个响应来寻求更好的答案，但传统的温度采样在相同的固定计算路径上生成每个候选。本文提出了一种建筑采样的训练无关方法，通过重用解码器层的选定块生成候选，采用不同的块位置和重复计数引入计算多样性，而无需更新模型权重或添加辅助参数。在五个Qwen检查点和十二个多模态基准上，建筑采样在相同的九个候选预算下，平均提高了6.58个百分点的pass@9。重用早期层带来了最显著的增益，即使在贪婪解码下，候选覆盖的改善依然存在。生成的候选显示出较低的词汇重叠，并在无标签的测试时间强化学习中作为回滚使用时提高了准确性。这些发现扩展了建筑采样的优势，展示了从模型自身输出中更有效的学习。
🔬 方法详解
问题定义：本文旨在解决现有测试时间扩展方法在固定计算路径上生成候选的问题，这导致了计算效率低下和候选多样性不足。
核心思路：提出建筑采样方法，通过重用解码器层的选定块，生成候选响应，利用不同的块位置和重复计数引入计算多样性，而无需更新模型权重或添加额外参数。
技术框架：整体架构包括选择解码器层的块、设置块的位置和重复次数，形成多条计算路径，最终生成多个候选响应。
关键创新：建筑采样的主要创新在于其训练无关性和计算多样性，显著区别于传统的温度采样方法，后者在固定路径上生成候选。
关键设计：在设计中，重用早期层的策略被证明能显著提升候选的覆盖率，且在贪婪解码下依然保持较低的词汇重叠，优化了模型的输出质量。
🖼️ 关键图片
📊 实验亮点
实验结果显示，建筑采样在五个Qwen检查点和十二个多模态基准上，平均提高了6.58个百分点的pass@9，相较于标准路径的温度采样，候选覆盖率显著提升，且生成的候选在无标签强化学习中表现出更高的准确性。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、计算机视觉和多模态学习等。通过提升模型在测试时间的响应多样性和准确性，建筑采样方法可以在实际应用中提高用户体验和系统性能，尤其是在需要快速响应的场景中，如对话系统和自动问答系统。
📄 摘要（原文）
Test-time scaling often seeks better answers by sampling multiple responses from a frozen model, yet conventional temperature sampling generates every candidate along the same fixed computation path. We introduce architectural sampling, a training-free method that generates candidates through distinct forward computations by reusing selected blocks of decoder layers. Varying the block location and repetition count introduces computational diversity without updating model weights or adding auxiliary parameters. Across five Qwen checkpoints and twelve multimodal benchmarks, architectural sampling improves pass@9 over standard-path temperature sampling by 6.58 percentage points on average at the same nine-candidate budget. Reusing early layers yields the strongest gains, and the improvement in candidate coverage persists even under greedy decoding. The resulting candidates show lower lexical overlap and improve accuracy when used as rollouts for label-free test-time reinforcement learning. These findings extend the benefits of our architectural sampling beyond candidate coverage, demonstrating more effective learning from a model's own outputs.