AdaExploreBench: Benchmarking LLM Agents for Proactive Exploration and Test-time Adaptation in Evolving Environments

📄 arXiv: 2610.25950v1 📥 PDF

作者: Rui Wang, Zishen Lai, Jiayu Liu, Cheng Qian, Jeonghwan Kim, Heng Wang, Xuejun Zhang, Jiateng Liu, Bingxuan Li, Shujin Wu, Qing Zong, Tianshi Zheng, Chunyang Li, Qihan Lin, Chen Li, Dadi Guo, Xiusi Chen, Yangqiu Song

分类: cs.CL, cs.AI

发布日期: 2026-10-19

💡 一句话要点

提出AdaExploreBench以解决LLM代理在动态环境中的探索与适应问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 主动探索 测试时适应 动态环境 规则漂移 证据获取 性能评估

📋 核心要点

  1. 现有方法在动态环境中缺乏有效的主动探索和适应能力，无法及时发现环境变化。
  2. 提出AdaExploreBench基准，通过隐式规则漂移要求代理主动获取证据并推断规则。
  3. 实验结果显示，GPT-6 Sol的校准准确率为61.9%，提供证据或消除漂移可提升近10%的性能。

📝 摘要（中文）

大型语言模型（LLM）代理在不熟悉和不断变化的环境中日益被部署，这要求它们主动探索、理解并适应环境动态。然而，现有基准测试很少考察代理是否能够主动发现环境的工作机制并随之适应。为了解决这一问题，本文提出了AdaExploreBench，一个用于主动探索和测试时适应的基准。在隐式规则漂移的情况下，潜在规则的变化没有公告，代理需要通过性能下降来检测先前知识的过时并重新探索。对八个领先的LLM进行的实验表明，主动和适应性探索仍然具有挑战性：GPT-6 Sol的校准准确率仅为61.9%，而提供足够证据或消除规则漂移显著提高了平均性能，提升幅度接近10%。这些结果揭示了当前LLM代理的一个关键瓶颈：它们在获得信息证据后能够有效推理，但在主动获取正确证据和识别先前证据失效时却面临困难。

🔬 方法详解

问题定义：本文旨在解决LLM代理在动态环境中主动探索和适应的能力不足，现有方法未能有效测试代理的主动发现和适应能力。

核心思路：提出AdaExploreBench基准，通过设置隐式规则漂移，要求代理在环境变化时主动获取证据并推断出新的规则，从而提升其适应能力。

技术框架：该方法的整体架构包括环境动态的定义、代理的探索策略和适应机制。主要模块包括环境规则的隐式定义、证据获取机制和性能评估模块。

关键创新：最重要的创新在于引入隐式规则漂移的概念，使得代理必须在没有明确指示的情况下识别环境变化，从而提升了对动态环境的适应能力。

关键设计：在设计中，设置了特定的损失函数以评估代理的探索效率，并通过动态调整参数来优化证据获取策略，确保代理能够及时识别和适应环境变化。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明，GPT-6 Sol在AdaExploreBench基准下的校准准确率为61.9%。通过提供足够的证据或消除规则漂移，平均性能提升接近10%，显示出主动探索和适应能力的显著挑战。

🎯 应用场景

该研究的潜在应用领域包括智能机器人、自动驾驶、游戏AI等需要在动态环境中进行决策的系统。通过提升LLM代理的主动探索和适应能力，可以显著提高其在复杂环境中的表现，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large Language Model (LLM) agents are increasingly deployed in unfamiliar and evolving environments, requiring them to proactively explore, understand, and adapt to environmental dynamics. However, existing benchmarks rarely test whether agents can proactively discover how an environment works and adapt as it evolves. To address this gap, we introduce AdaExploreBench, a benchmark for proactive exploration and test-time adaptation in evolving environments. By instantiating environmental dynamics as hidden rules, AdaExploreBench requires agents to actively acquire evidence and infer the rules. Under implicit rule drift, the latent rule changes without announcement, requiring agents to detect from degraded performance that prior knowledge is stale and re-explore. Experiments on eight leading LLMs show that proactive and adaptive exploration remain challenging: GPT-6 Sol achieves only 61.9% calibrated accuracy, while providing sufficient evidence or removing rule drift improves average performance significantly by close to 10%. These results reveal a critical bottleneck in current LLM agents: they can often reason effectively from informative evidence once it is available, but struggle to actively acquire the right evidence and recognize when previously acquired evidence is no longer valid.