ThinkFuse: Trajectory-Aware Test-Time Fusion for Small Reasoning Models
作者: Myunghoon Kang, Jungseob Lee, Jaehyung Seo, Heuiseok Lim
分类: cs.AI, cs.CL
发布日期: 2026-10-06
备注: Accepted to EMNLP 2026 Findings
🔗 代码/项目: GITHUB
💡 一句话要点
提出ThinkFuse以解决小推理模型的不稳定推理问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 小推理模型 推理稳定性 测试时融合 不确定性分析 辅助推理路径
📋 核心要点
- 现有的小推理模型在推理过程中容易陷入错误路径，难以恢复，导致推理效果不稳定。
- 本文提出的ThinkFuse框架通过分析不确定性变化，选择性地干预不可靠的推理段，从而提升推理稳定性。
- 实验结果显示，ThinkFuse在多个基准测试中表现优异，相较于基线方法有显著提升，且融合触发次数更少，生成的token数量也更少。
📝 摘要（中文）
小推理模型（SRMs）在复杂推理任务中表现出色，但在推理路径出现错误时往往难以恢复。现有的测试时融合方法依赖于局部融合信号来决定何时触发融合，这可能受到瞬时不确定性波动的误导，从而强化不稳定的推理轨迹。为此，本文提出了ThinkFuse，一个无训练的测试时融合框架，能够选择性地干预不可靠的推理段。ThinkFuse通过比较段级不确定性变化与轨迹级不确定性趋势，识别不稳定的推理点，并将辅助推理路径融合到主模型的轨迹中。大量实验表明，ThinkFuse在数学和知识密集型推理基准上超越了基线，且在较小的主模型上依然保持稳健。
🔬 方法详解
问题定义：本文旨在解决小推理模型在推理过程中遇到错误路径时难以恢复的问题。现有方法依赖局部信号触发融合，容易受到瞬时不确定性波动的影响，导致推理不稳定。
核心思路：ThinkFuse的核心思路是通过比较段级不确定性变化与轨迹级不确定性趋势，识别不稳定的推理点，并在这些点进行选择性干预，融合辅助推理路径，从而提升推理的稳定性和准确性。
技术框架：ThinkFuse的整体架构包括不确定性分析模块和融合决策模块。首先，系统对推理过程中的不确定性进行实时监测，然后根据分析结果决定是否进行融合，最后将辅助路径融入主模型的推理轨迹中。
关键创新：ThinkFuse的主要创新在于其无训练的融合框架，能够在测试时动态识别不稳定推理点并进行干预，与现有方法相比，减少了对局部信号的依赖，提升了推理的稳定性和效率。
关键设计：在设计上，ThinkFuse采用了段级和轨迹级不确定性比较的策略，设置了合理的阈值来判断何时触发融合。此外，系统在融合过程中优化了token的生成，确保了生成效率。
🖼️ 关键图片
📊 实验亮点
实验结果表明，ThinkFuse在数学和知识密集型推理基准上显著超越了现有基线，尤其在较小的主模型上表现出色。具体而言，ThinkFuse在多个测试中提升了推理准确率，并减少了融合触发次数和生成的token数量，展现出其高效性。
🎯 应用场景
ThinkFuse的研究成果在多个领域具有潜在应用价值，尤其是在需要高可靠性推理的场景，如自动驾驶、医疗诊断和金融决策等。通过提升小推理模型的稳定性，ThinkFuse能够为这些领域提供更为可靠的智能决策支持，未来可能推动相关技术的广泛应用与发展。
📄 摘要（原文）
Small reasoning models (SRMs) have shown strong performance on complex reasoning tasks by generating extended chain-of-thought trajectories, but they often fail to recover once their reasoning enters an erroneous path. Existing test-time fusion methods rely on local fusion signals to determine when to trigger fusion, which can be misled by transient uncertainty fluctuations and may reinforce unstable reasoning trajectories. We propose ThinkFuse, a training-free test-time fusion framework that selectively intervenes in unreliable reasoning segments. ThinkFuse compares segment-level uncertainty shifts with trajectory-level uncertainty trends to identify unstable reasoning points and fuse auxiliary reasoning paths into the primary model's trajectory. Extensive experiments demonstrate that ThinkFuse outperforms baselines on mathematical and knowledge-intensive reasoning benchmarks, with consistent gains across model-family combinations, and remains robust with a smaller primary model. Our analysis shows that ThinkFuse requires fewer fusion triggers and generates fewer tokens, highlighting the efficiency of selective triggering. Our code is available at https://github.com/js-lee-AI/ThinkFuse.