PRO-LONG: Programmatic Memory Enables Long-Horizon Reasoning

📄 arXiv: 2607.20064v1 📥 PDF

作者: Alexis Fox, Junlin Wang, Paul Rosu, Bhuwan Dhingra

分类: cs.AI

发布日期: 2026-07-22

🔗 代码/项目: GITHUB

💡 一句话要点

提出PRO-LONG以解决长时间推理任务中的记忆管理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长时间推理 程序化记忆 上下文管理 大型语言模型 编码代理 持续学习 信息检索

📋 核心要点

  1. 现有方法在长时间推理任务中表现有限，尤其是在持续学习基准上，难以有效管理上下文信息。
  2. PRO-LONG通过程序化记忆构建了一个最小上下文管理框架，旨在高效保存和检索环境信息。
  3. 在ARC-AGI-3公共游戏集上，PRO-LONG平均提高了18.0个百分点，并在使用更少token的情况下达到了76.1%的通过率。

📝 摘要（中文）

长时间推理任务需要持续的感知、推理和探索，这对大型语言模型（LLM）代理构成了持续挑战。现有方法在处理长序列观察时面临显著的权衡，保存更多信息会使得相关细节的检索变得不易。为此，本文提出了PRO-LONG，一个基于程序化记忆的最小上下文管理框架，旨在提高LLM代理在长时间探索环境中的表现。PRO-LONG通过保持完整的结构化交互日志，并利用最新的编码代理技术高效搜索历史记录，显著提升了在ARC-AGI-3公共游戏集上的表现，平均提高了18.0个百分点，并在使用4.2-5.8倍更少的token的情况下，匹配或超过了最先进的专用代理。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在长时间推理任务中的上下文管理问题。现有方法在保存信息与检索相关细节之间存在显著的权衡，导致性能受限。

核心思路：PRO-LONG的核心思路是通过程序化记忆来构建一个结构化的交互日志，允许模型高效地保存和检索信息，从而克服现有方法的局限性。

技术框架：PRO-LONG的整体架构包括信息保存模块、信息检索模块和上下文更新模块。信息保存模块负责记录交互日志，信息检索模块利用编码代理技术高效搜索历史记录，而上下文更新模块则根据检索结果更新模型上下文。

关键创新：PRO-LONG的主要创新在于其程序化记忆的设计，使得模型能够在长时间任务中保持完整的交互历史，并高效检索相关信息。这一设计与现有方法的本质区别在于其结构化的日志管理。

关键设计：在参数设置上，PRO-LONG优化了信息保存的策略，采用了特定的损失函数来平衡信息的保留与检索效率。此外，网络结构上引入了编码代理技术，以提升历史信息的搜索效率。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在ARC-AGI-3公共游戏集上，PRO-LONG相比基础编码代理平均提高了18.0个百分点，达到了76.1%的通过率，同时使用的token数量减少了4.2-5.8倍。这些结果表明，PRO-LONG在长时间推理任务中具有显著的性能优势。

🎯 应用场景

该研究的潜在应用领域包括智能助手、自动化决策系统和长时间交互的机器人等。通过提高长时间推理任务的性能，PRO-LONG能够在复杂环境中实现更高效的决策和响应，具有重要的实际价值和未来影响。

📄 摘要（原文）

Long-horizon tasks require sustained perception, reasoning, and exploration, and are a persistent challenge for large language model (LLM) agents. This gap is reflected in their limited performance on continual learning benchmarks such as ARC-AGI-3, especially when models are evaluated out of the box. Various agent harnesses have been proposed to close this gap, and each commits to a strategy for handling long sequences of observations, i.e., what information to save from the environment and how to load it into model context, a choice we argue is particularly consequential. Existing methods for context management face a significant tradeoff, as preserving more information makes retrieving relevant details less tractable. We propose PRO-LONG, a minimal context management framework built around programmatic memory for LLM agents in long-horizon, exploratory settings. PRO-LONG addresses the tradeoff by keeping a complete, structured interaction log and capitalizing on recent progress in coding agents to search this history efficiently. On the full ARC-AGI-3 public game set, PRO-LONG improves over a base coding agent by an average of 18.0 percentage points across frontier models, and matches or exceeds state-of-the-art specialized harnesses (up to 76.1% pass@1) while using 4.2-5.8x fewer tokens. With Fable 5, PRO-LONG achieves 97.4% best@2 at a total cost of \$1,750. Relevant code and logs are available at https://github.com/alexisfox7/PRO-LONG.