From Noisy Traces to Root Causes: Structural Trajectory Analysis and Causal Extraction for Agent Optimization

📄 arXiv: 2607.07702v1 📥 PDF

作者: Ying Chang, Jiahang Xu, Xuan Feng, Chenyuan Yang, Peng Cheng, Yuqing Yang

分类: cs.CL

发布日期: 2026-07-08

🔗 代码/项目: GITHUB

💡 一句话要点

提出STRACE框架以解决长时间代理优化中的噪声问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长时间代理优化 因果提取 轨迹分析 大型语言模型 优化算法

📋 核心要点

  1. 现有的长时间代理优化方法面临真实执行轨迹冗余和异构性的问题，导致优化效率低下。
  2. STRACE框架通过挖掘失败模式和因果定位，过滤冗余轨迹并识别真实根因模块，从而优化代理策略。
  3. 在VeruSAGE-Bench的正式验证任务中，STRACE成功优化了人类专家设计的代理，成功率提升了1.4倍（从42.5%提升至58.5%）。

📝 摘要（中文）

长时间代理的优化越来越依赖基于反思的机制，其中大型语言模型（LLM）作为优化器来诊断代理失败并改善代理策略。然而，真实执行轨迹难以直接用于优化：大量轨迹集合往往冗余且异构，使得优化效率低下且容易过拟合低价值失败；同时，每个单独的轨迹也包含许多无关步骤，而简单的上下文缩减方法（如截断或滑动窗口）可能会丢弃因果重要证据，产生误导性的优化信号。为了解决这一困境，我们提出了STRACE（结构轨迹分析与因果提取）框架，构建高信号噪声优化上下文以实现更精确有效的优化。实证结果表明，STRACE显著优于标准上下文过滤基线。

🔬 方法详解

问题定义：本论文旨在解决长时间代理优化中真实执行轨迹的冗余和异构性问题，现有方法在处理这些轨迹时效率低下且容易过拟合低价值失败。

核心思路：STRACE框架通过结构化分析和因果提取，构建高信号噪声的优化上下文，从而提高优化的精确性和有效性。

技术框架：STRACE的整体架构包括两个主要模块：在批量层面挖掘失败模式以过滤冗余轨迹，并在每个选定轨迹内进行因果定位，通过文本依赖图去除非因果步骤，识别真实根因模块。

关键创新：STRACE的核心创新在于其因果定位能力，能够在复杂的轨迹中提取出对优化至关重要的因果证据，这与传统的上下文过滤方法有本质区别。

关键设计：在设计上，STRACE使用文本依赖图来表示轨迹中的因果关系，并通过特定的算法来识别和保留重要的因果步骤，确保优化信号的准确性。具体的参数设置和损失函数设计在论文中有详细描述。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在VeruSAGE-Bench的正式验证任务中，STRACE框架成功优化了人类专家设计的代理，成功率从42.5%提升至58.5%，实现了1.4倍的提升，显著优于标准上下文过滤基线。

🎯 应用场景

STRACE框架在长时间代理优化中具有广泛的应用潜力，尤其是在需要高效处理复杂轨迹数据的领域，如自动驾驶、机器人控制和智能决策系统。其优化能力能够显著提升代理的性能，具有重要的实际价值和未来影响。

📄 摘要（原文）

The optimization of long-horizon agents increasingly relies on reflection-based mechanisms, where a large language model (LLM) acts as an optimizer to diagnose agent failures and improve agent policies. However, real execution traces are difficult to use directly for optimization: large trace collections are often redundant and heterogeneous, making optimization inefficient and prone to overfitting to low-value failures; meanwhile, each individual trajectory also contains many irrelevant steps, while naive context reduction methods such as truncation or sliding windows can discard causally important evidence and produce misleading optimization signals. To resolve this dilemma, we introduce STRACE (Structural TRajectory Analysis and Causal Extraction), a framework that constructs high signal-noise optimization contexts for more precise and effective optimization. At the batch level, STRACE mines failure patterns to filter redundant traces and retain representative failures; within each selected trace, it performs causal localization over a textual dependency graph to remove non-causal steps and identify the true root-cause module for optimization. Empirical results demonstrate that STRACE significantly outperforms standard context-filtering baselines. Notably, on a challenging formal verification task (VeruSAGE-Bench), it successfully optimizes human-expert designed agents, delivering $1.4\times$ success-rate improvement (42.5% to 58.5%). The code is available at https://github.com/moomight/STRACE .