OS-Pruner: Pruning Chains-of-Thought of Reasoning Models via Optimal Stopping

📄 arXiv: 2607.11089v1 📥 PDF

作者: Mohammed Ehab, Aymane El Gadarri, Vivek F. Farias, Adam Jozefiak, Ciamac C. Moallemi

分类: cs.AI

发布日期: 2026-07-13

💡 一句话要点

提出OS-Pruner以解决大语言模型推理链冗余问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 链式思维 推理优化 动态评估 计算效率 自然语言处理

📋 核心要点

  1. 现有方法在处理链式思维时，常常导致冗余推理步骤，增加计算成本而不提升准确性。
  2. OS-Pruner通过将链式思维修剪视为最优停止问题，动态评估推理链的终止点，从而优化推理过程。
  3. 在多种推理基准上，OS-Pruner实现了20-60%的生成长度减少，同时保持了较高的准确性。

📝 摘要（中文）

大型语言模型（LLMs）在复杂推理任务中通过链式思维（CoT）提示取得了显著成功。然而，这些模型常常表现出“计算过度思考”，生成冗余的推理步骤，导致延迟和成本增加而不提高准确性。近期研究表明，CoT轨迹可以显著修剪，但现有方法往往依赖于强制静态思维预算、启发式过滤、次优早期退出或昂贵的重新训练。本文提出了OS-Pruner，一个轻量级插件框架，将链式思维修剪形式化为一个最优停止问题。OS-Pruner通过优化明确的效用，动态评估推理链的终止点，在推理前缀的基础上权衡最终答案的准确性与生成长度。OS-Pruner在训练和推理过程中均设计为轻量级，并为用户提供对推理努力与准确性权衡的细粒度控制。在多样的推理基准和基础模型上，OS-Pruner实现了20-60%的生成长度减少，且准确性损失最小。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在推理过程中产生冗余步骤的问题，现有方法往往依赖静态预算或启发式过滤，导致效率低下和准确性未必提升。

核心思路：OS-Pruner的核心思想是将链式思维修剪问题转化为最优停止问题，通过动态评估推理的价值，决定是否继续推理，从而优化计算资源的使用。

技术框架：OS-Pruner的整体架构包括推理前缀的输入、效用函数的优化和终止条件的判断。主要模块包括推理控制模块和效用评估模块，确保在推理过程中实时评估生成的有效性。

关键创新：OS-Pruner的创新在于其动态评估机制，能够根据当前推理状态实时判断是否继续推理，与传统方法的静态预算形成鲜明对比。

关键设计：在设计上，OS-Pruner采用了明确的效用函数，权衡生成长度与最终答案的准确性，确保在训练和推理过程中均保持轻量级，减少计算负担。具体的参数设置和损失函数设计未在摘要中详细说明，需参考完整论文。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

OS-Pruner在多种推理基准测试中表现出色，实现了20-60%的生成长度减少，同时保持了最小的准确性损失。这一结果显著优于现有的推理优化方法，展示了其在实际应用中的有效性和优势。

🎯 应用场景

OS-Pruner的研究成果具有广泛的应用潜力，尤其在需要高效推理的自然语言处理任务中，如对话系统、智能问答和自动文本生成等领域。通过减少冗余推理步骤，OS-Pruner能够显著降低计算成本，提高响应速度，从而提升用户体验。未来，该方法还可能扩展到其他需要推理的AI应用场景中。

📄 摘要（原文）

Large Language Models (LLMs) have achieved remarkable success in complex reasoning tasks through Chain-of-Thought (CoT) prompting. However, these models often exhibit "computational overthinking," generating redundant reasoning steps that increase latency and cost without improving accuracy. Recent studies suggest that CoT trajectories can be significantly pruned, yet existing methods often rely on forcing a static thinking budget, heuristic filtering, sub-optimal early exit via classification, or expensive re-training. In this paper, we introduce OS-Pruner, a lightweight plug-in framework that formulates chain-of-thought pruning as an optimal stopping problem. Given a reasoning prefix, OS-Pruner learns whether further reasoning is worth its token cost by optimizing an explicit utility that trades off final-answer accuracy against generated length. Our novel formulation enables the model to dynamically assess the sufficient point of termination for a reasoning chain. OS-Pruner is designed to be lightweight during both training and inference, and to provide users with fine-grained control over the reasoning-effort vs. accuracy trade-off. On diverse reasoning benchmarks and base models, OS-Pruner achieves 20-60\% reduction in generation length with minimal accuracy sacrifice.