SAGE: Mitigating Long-Horizon Reasoning Biases via Topological Guidance

📄 arXiv: 2609.30192v1 📥 PDF

作者: Xinyue Zeng, Jiawei Zhang, Yujun Yan, Dawei Zhou

分类: cs.AI

发布日期: 2026-09-24

备注: Accepted by NeurIPS 2026

🔗 代码/项目: GITHUB

💡 一句话要点

提出SAGE以解决长远推理中的偏差问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长远推理 稀疏奖励 结构引导 代数稀疏化 双曲结构 符号闭包分析 大型语言模型

📋 核心要点

  1. 长远推理在稀疏奖励环境中存在探索偏差和累积偏差，导致模型性能不稳定。
  2. 提出SAGE框架，通过代数稀疏化和双曲结构引导来减轻推理过程中的偏差。
  3. 在多个基准测试中，SAGE显著超越了现有方法，尤其在复杂任务上表现突出。

📝 摘要（中文）

长远推理在稀疏奖励环境中对大型语言模型（LLMs）仍然是一个核心挑战。我们认为，这种脆弱性源于复杂推理空间引发的两种偏差：探索偏差和累积偏差。我们引入符号闭包分析（SCA）作为理论视角，描述了分支结构和稀疏奖励如何在局部可接受性下诱发这些偏差。基于此分析，我们提出了SAGE（结构可接受性引导探索），一个统一框架，通过注入结构引导来缓解长远推理中的探索偏差和累积偏差。SAGE结合了代数稀疏化和双曲结构引导两种互补的结构引导方法。在12个基准测试和7个模型家族中，SAGE的表现超越了竞争基线，尤其在Andrews-Curtis问题上实现了高达8倍的提升。

🔬 方法详解

问题定义：本论文旨在解决大型语言模型在长远推理中面临的探索偏差和累积偏差问题。现有方法在复杂推理空间中容易陷入局部最优，导致性能下降。

核心思路：通过引入结构引导，SAGE框架旨在缓解这些偏差。代数稀疏化和双曲结构引导的结合，提供了更为稳定的推理路径。

技术框架：SAGE框架包括两个主要模块：代数稀疏化模块和双曲结构引导模块。前者通过投影技术抑制虚假分支，后者则在负曲率空间中嵌入推理状态，提供密集的深度信号。

关键创新：SAGE的核心创新在于引入了符号闭包分析（SCA）作为理论基础，系统性地解决了长远推理中的结构性偏差问题。与现有方法相比，SAGE在结构引导的设计上具有更强的理论支持。

关键设计：SAGE的设计包括代数稀疏化的参数设置和双曲空间的嵌入策略，确保推理过程中的局部可接受性和全局稳定性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在12个基准测试中，SAGE显著超越了竞争基线，特别是在Andrews-Curtis问题上实现了高达8倍的性能提升，展示了其在长远推理任务中的强大能力。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、智能问答系统和复杂决策支持系统。通过提升长远推理能力，SAGE能够在实际应用中更好地处理稀疏奖励问题，推动智能系统的智能化和自动化进程。

📄 摘要（原文）

Long-horizon reasoning remains a central challenge for large language models (LLMs) under sparse-reward regimes. We argue that this brittleness arises from two biases induced by complex reasoning spaces: an exploration bias, where models are drawn toward locally plausible but structurally unstable branches, and a compounding bias, where small local deviations accumulate across depth and suppress rare rewards. We introduce Symbolic Closure Analysis (SCA) as a theoretical lens characterizing how branching structures and sparse rewards induce these biases in long-horizon reasoning with local admissibility, and as a design principle for structural priors in less formal reasoning tasks. Motivated by this analysis, we propose SAGE (Structural Admissibility-Guided Exploration), a unified framework that injects structural guidance to alleviate exploration bias and compounding bias in long-horizon reasoning. SAGE combines two complementary structural guidance: algebraic sparsification, which projects locally admissible candidates onto operator-indexed algebraic subspaces to suppress spurious branching and mitigate exploration bias, and hyperbolic structural guidance, which embeds reasoning states into a negatively curved space to provide dense depth-wise signals and mitigate compounding bias. Across 12 benchmarks and 7 model families, SAGE outperforms competitive baselines. In particular, SAGE achieves up to an 8-fold improvement on the Andrews-Curtis problem, an open real-world long-horizon task. Code is available at: https://github.com/Susan571/SAGE-NeurIPS2026.