Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents

📄 arXiv: 2610.01892v1 📥 PDF

作者: Feiyu Gavin Zhu, Xiaoyu Zhu, Jiqi Yang, Rui Yang, Arnab Kumar Mondal, Yancheng Wang, Xinke Deng, Jean Oh, Reid Simmons, Joerg Liebelt, Xiang Kong, Zhongyu Jiang

分类: cs.LG, cs.AI

发布日期: 2026-10-01

🔗 代码/项目: PROJECT_PAGE

💡 一句话要点

提出选择性结构推理以解决多模态搜索代理的效率问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态代理 选择性结构推理 推理效率 并行计算 自然语言处理

📋 核心要点

  1. 现有的多模态代理在推理过程中存在冗长且低效的问题，尤其是在小型模型中，推理成本高且指导性不足。
  2. 本文提出选择性结构推理（SSR），通过将推理过程转变为从预定义候选项中选择，减少了推理的复杂性和时间成本。
  3. 实验结果表明，SSR在多个基准测试中表现出色，推理延迟减少超过90%，总推理延迟降低28-54%，且成功率与同规模的领先搜索代理相当。

📝 摘要（中文）

多模态代理通常在每个动作之前生成自由形式的推理。然而，对于小型模型，有限的模型容量可能导致冗长的推理，提供的指导有限且推理成本高。为了解决这一挑战，本文提出了选择性结构推理（SSR）框架，将推理重新表述为选择而非开放式生成。SSR将重复的高层推理表示为预先指定的可重用自然语言候选项。模型在每一步根据当前上下文选择这些推理候选项，而无需辅助任务头。使用预先指定的推理轨迹实现并行评分，从而显著提高了效率。我们在七个多模态搜索基准上评估SSR，结果显示SSR在不牺牲任务性能的情况下，显著提高了效率。

🔬 方法详解

问题定义：本文旨在解决多模态代理在推理过程中效率低下的问题，尤其是小型模型在推理时的冗长和高成本。现有方法往往依赖开放式生成，导致推理过程不够高效。

核心思路：选择性结构推理（SSR）通过将推理过程转变为从预定义的候选项中进行选择，避免了开放式生成的复杂性。这样设计的目的是提高推理效率，同时保持任务性能。

技术框架：SSR框架包括预定义的自然语言推理候选项，模型在每一步根据当前上下文选择最合适的候选项。通过并行评分机制，利用共享的上下文KV缓存，显著提高了推理速度。

关键创新：SSR的核心创新在于将推理过程结构化为选择而非生成，允许模型在推理时进行并行计算，从而大幅度降低推理延迟。这一方法与传统的开放式生成方法本质上不同。

关键设计：在实现中，SSR采用了预定义的推理轨迹，并通过教师强制填充机制计算候选项的token概率。此外，模型的参数设置和损失函数设计也经过优化，以确保在效率和性能之间的平衡。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果显示，SSR在七个多模态搜索基准上取得了显著的效率提升，推理延迟减少超过90%，总推理延迟降低28-54%。同时，SSR的成功率与同规模的领先搜索代理相当，展示了其在效率与性能上的优越性。

🎯 应用场景

该研究的潜在应用领域包括智能搜索引擎、机器人导航和人机交互等场景。SSR框架的高效推理能力可以显著提升多模态系统的响应速度和准确性，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Multimodal agents commonly generate free-form reasoning before each action. For small models, limited model capacity can result in lengthy reasoning that provides little useful guidance for action generation while incurring substantial inference cost. To address this challenge, we introduce Selection-based Structured Reasoning (SSR), a framework that reformulates reasoning as selection instead of open-ended generation. SSR represents recurring high-level reasoning as pre-specified, reusable natural-language candidates. At each turn, the model selects from these reasoning candidates based on their likelihoods given the current context, without requiring an auxiliary task head. Using pre-specified reasoning traces enables parallel scoring, where teacher-forced prefilling computes token likelihoods concurrently within and across candidates using a shared context KV cache. We evaluate SSR on seven multimodal search benchmarks using 2B and 4B models. Across multiple reinforcement learning objectives and supervised fine-tuning, SSR delivers significant efficiency gains without sacrificing task performance. SSR achieves an average success rate competitive with leading search agents of the same scale, while reducing per-turn reasoning latency by over 90% and total per-question model inference latency by 28-54%. Project page: https://zfy0314.github.io/ssr-webpage/.