Truncated Reasoning Under a Budget: Evaluating System-1 Models as Decision-makers

📄 arXiv: 2610.25768v1 📥 PDF

作者: Zhongyin Wang, Zhaoqian Xue, Junting Mu, Haozheng Liu, Ye Yuan, Haolun Wu, Lingyao Li

分类: cs.CL

发布日期: 2026-10-19

💡 一句话要点

提出Jev模型以优化有限推理预算下的决策过程

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 推理预算 决策模型 系统-1模型 多项选择基准 准确性提升 成本优化

📋 核心要点

  1. 现有大型语言模型在推理过程中常常生成过多的推理令牌，导致成本增加和准确性下降。
  2. 论文提出Jev模型作为决策阅读器，通过选择候选选项而不生成推理响应，优化有限的推理预算。
  3. 实验结果显示，Jev在多个基准测试中表现优异，尤其在1,500令牌预算下，准确率显著提升，验证了其有效性。

📝 摘要（中文）

大型语言模型（LLMs）通常生成超出需求的推理令牌。限制推理预算虽然能降低成本，但强迫从不完整的推理中得出答案可能会影响准确性。本文评估了Jev作为一种决策模型在七个LLM推理器和五个多项选择基准上的表现。结果表明，Jev在不同预算下的平均准确率高于强制回答，尤其在1,500令牌预算下，整体准确率提高了4.1个百分点，截断问题的准确率提升了8.6个百分点。这些发现表明，系统-1决策模型可以有效补充LLM推理，减少高成本的推理完成需求。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在推理过程中生成过多令牌的问题，导致成本高和准确性低。现有方法在预算限制下强制回答可能会影响模型的表现。

核心思路：Jev模型通过选择候选答案而非生成完整推理，旨在在有限的推理预算内提高决策准确性，减少不必要的推理成本。

技术框架：整体架构包括输入问题、候选答案生成、决策选择和结果输出四个主要模块。Jev模型在这些模块中通过优化选择过程来降低推理成本。

关键创新：Jev的核心创新在于其作为系统-1决策模型的应用，能够在不依赖完整推理的情况下，直接从候选选项中做出决策，这与传统的推理模型形成鲜明对比。

关键设计：在实验中，Jev模型的参数设置经过优化，采用了特定的损失函数来平衡准确性与推理成本，确保在不同预算下的表现稳定。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，Jev在1,500令牌预算下的整体准确率提高了4.1个百分点，截断问题的准确率提升了8.6个百分点。此外，Jev在问答准确性上超过了500令牌强制回答，平均准确率为68.0%，而强制回答为65.5%。

🎯 应用场景

该研究的潜在应用领域包括智能问答系统、自动化决策支持和人机交互等。通过优化推理预算，Jev模型可以在资源有限的环境中提供高效的决策支持，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large language models (LLMs) often generate more reasoning tokens than needed. Limiting the reasoning budget reduces cost, but forcing an answer from an incomplete trace can hurt accuracy. System-1 decision models select among candidate options without producing a reasoning response. We evaluate Jev as a decision reader of truncated reasoning across seven LLM reasoners and five multiple-choice benchmarks (35 pairs). Jev achieves higher mean accuracy than forced answering at tested budgets from 500 to 16,000 tokens, including the estimated costs of reasoning and answering. At a 1,500-token budget, it improves accuracy by 4.1 pp overall and 8.6 pp on truncated questions, with significant gains in 17 pairs under Holm-corrected bootstrap tests. Offline replay estimates 34.5% of the full-run cost, with a 1.13 pp accuracy loss. A policy selected on training folds saves 71.3% of the estimated full-run cost on held-out folds, with a 0.58 pp accuracy loss. We also find that Jev shows strong question-only accuracy, exceeding 500-token forced answering on average (68.0% vs. 65.5%), although this advantage varies by benchmark. These findings suggest that System-1 decision models can complement LLM reasoning and reduce the need for costly reasoning completion.