GLOBE: Geometry-Led Online Behavioral Early Exit via Unit-Sphere Trajectories

📄 arXiv: 2610.25970v1 📥 PDF

作者: Xinyue Peng, Zhenlin Liang, Meng Cai, Hua Wang

分类: cs.AI, cs.CL

发布日期: 2026-10-19


💡 一句话要点

提出GLOBE以解决链式思维推理过程中的冗余生成问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 链式思维 几何推理 在线算法 提前退出 推理效率

📋 核心要点

  1. 现有的链式思维推理方法在达到正确答案后仍继续生成,导致不必要的计算开销和潜在的错误结果。
  2. GLOBE通过将推理片段嵌入单位球面,利用几何特性提前终止生成过程,从而提高效率。
  3. 在多个基准测试中,GLOBE显著减少了输出令牌和计算时间,同时保持了与完整链式思维相当的准确性。

📝 摘要(中文)

链式思维(CoT)推理可以提升问题解决能力,但模型往往在正确答案可达时仍继续生成,导致额外的计算成本,并可能将正确的中间结果替换为错误结果。为此,本文提出了GLOBE(几何引导的在线行为提前退出),这是一种在线、无训练的算法,能够提前终止模型的CoT过程。GLOBE将每个完成的推理片段嵌入单位球面,并读取生成的语义轨迹的形状。该方法首先通过试验阶段生成短的试验答案,并在确认置信度后停止主流生成;如果生成继续,轨迹阶段则在路径反复改变方向且进展有限时停止生成。在五个基准测试中,GLOBE将输出令牌减少了49.7%,端到端的活跃时间减少了51.0%,并在五项任务中平均达到80.58%的准确率,表现与完整的CoT相当。

🔬 方法详解

问题定义:本文旨在解决链式思维推理过程中冗余生成的问题,现有方法在达到正确答案后仍继续生成,导致计算资源浪费和结果不准确。

核心思路:GLOBE的核心思路是通过几何引导的方式,利用单位球面上的语义轨迹来判断何时提前终止推理过程,从而避免不必要的生成步骤。

技术框架:GLOBE的整体架构包括两个主要阶段:试验阶段和轨迹阶段。在试验阶段,模型生成短的试验答案,并根据置信度判断是否停止主流生成;在轨迹阶段,监测生成路径的变化,若路径反复改变方向且进展有限,则终止生成。

关键创新:GLOBE的主要创新在于将推理过程的每个片段视为单位球面上的点,通过分析语义轨迹的形状来决定生成的终止时机,这一方法与传统的基于固定步数的生成策略有本质区别。

关键设计:GLOBE的设计中包括置信度阈值的设定,以判断是否接受试验答案,以及对轨迹变化的监测机制,确保在生成过程中能够及时识别出冗余步骤。具体的参数设置和网络结构细节在论文中进行了详细讨论。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

GLOBE在五个基准测试中表现出色,成功将输出令牌减少了49.7%,活跃的端到端时间减少了51.0%。在五项任务中,GLOBE的平均准确率达到了80.58%,与完整的链式思维推理方法相当,显示出其高效性和实用性。

🎯 应用场景

GLOBE的研究成果在多个领域具有潜在应用价值,尤其是在需要高效推理的智能助手、自动问答系统和复杂决策支持系统中。通过减少不必要的计算,GLOBE可以显著提升系统的响应速度和用户体验,未来可能推动更智能的交互式AI的发展。

📄 摘要(原文)

Chain-of-thought (CoT) reasoning can improve problem solving, but models often keep generating after the correct answer is already reachable; the extra steps raise serving costs and may replace a correct intermediate result with an incorrect one. We propose GLOBE (Geometry-Led Online Behavioral Early Exit), an online, training-free algorithm that terminates the model's CoT process early. GLOBE embeds each completed reasoning segment as a point on a unit sphere and reads the shape of the resulting semantic trajectory. GLOBE first applies a trial phase that generates short trial answers in a separate branch, stopping the main stream on an accepted trial after checking confidence against a threshold. If generation continues, a trajectory phase stops the stream once this path repeatedly reverses direction with little net progress. On five benchmarks including mathematical reasoning, tool calling, and agent memory, GLOBE cuts output tokens by 49.7% and active end-to-end wall time (E2E) by 51.0% across two models, and achieves a five-task average of 80.58%, comparable to Full CoT.