Toolcompass: Guiding Tool Trialing, Not Suppressing It
作者: Junlin Fang, Chong Zhang, Do Nguyen-Thanh, Xiaogang Xu, Zhen Fang, Sean Du
分类: cs.AI, cs.LG
发布日期: 2026-09-22
💡 一句话要点
提出ToolCompass以指导工具试用,解决试用效率低下问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 工具试用 大型语言模型 后训练 功能分类 经验转移
📋 核心要点
- 现有方法在工具试用中存在效率低下的问题,过多的试用会浪费交互预算。
- ToolCompass通过组织工具调用表示,减少功能内变异并增加功能间分离,指导工具试用。
- 在AppWorld上,ToolCompass相比于传统后训练方法,成功率提升了最高10.71个百分点,表现优于竞争基线。
📝 摘要(中文)
大型语言模型(LLM)代理需要从训练中见过的工具推广到部署时未见过的工具。一个关键挑战是工具试用,即过多的试用会浪费交互预算,而选择性试用则能探索不熟悉的工具。现有的基于结果的后训练方法对浪费的试用缺乏指导,而逐轮监督可能抑制必要的探索。我们提出了ToolCompass,一个后训练框架,通过根据共享功能组织工具调用表示来指导工具试用。具体而言,ToolCompass将每个功能类建模为von Mises-Fisher分布,联合减少跨领域的功能内变异并增加功能间分离。这一结构将经验从已见工具转移到功能上相似的未见工具,指导探索远离无关的替代品。ToolCompass不需要真实的调用轨迹或未见工具的访问,并且不会增加推理开销。实验结果表明,在AppWorld和FTRL上,ToolCompass在GRPO、RFT和DMPO上均表现出一致的提升。
🔬 方法详解
问题定义:本论文旨在解决大型语言模型在工具试用中的效率低下问题。现有方法往往无法有效指导工具试用,导致过多的无效试用,浪费了交互预算。
核心思路:ToolCompass的核心思路是通过将工具调用表示按功能组织,减少同一功能类内的变异,同时增加不同功能类之间的分离度,从而有效指导工具试用。这样的设计能够帮助模型从已见工具中转移经验,避免无关工具的探索。
技术框架:ToolCompass的整体架构包括功能分类、工具调用表示的组织和功能间的分离。具体而言,模型将每个功能类视为von Mises-Fisher分布,并通过联合优化来实现功能内变异的减少和功能间分离的增加。
关键创新:ToolCompass的主要创新在于其通过功能类的分布建模来指导工具试用,这与现有方法的结果导向和逐轮监督方式有本质区别。
关键设计:ToolCompass不依赖于真实的调用轨迹或未见工具的访问,且在推理过程中没有额外的开销。其设计中包含了功能类的分布建模和联合优化策略,确保了工具试用的高效性。
🖼️ 关键图片
📊 实验亮点
在实验中,ToolCompass在AppWorld的OOD任务成功率上相比于传统后训练方法提升了最高10.71个百分点,并在GRPO、RFT和DMPO等多个基准上表现优于竞争基线,显示出其在工具试用指导方面的显著优势。
🎯 应用场景
ToolCompass的研究成果在多个领域具有潜在应用价值,尤其是在需要高效工具试用的智能助手、自动化系统和机器人领域。通过提高工具试用的效率,能够显著提升系统的交互能力和用户体验,未来可能推动更多智能应用的发展。
📄 摘要(原文)
Large language model (LLM) agents must generalize from tools seen during training to unseen tools at deployment. A key challenge is tool trialing, i.e., excessive trials waste the interaction budget, whereas selective trials enable exploration of unfamiliar tools. Existing outcome-based post-training leaves wasteful trials unguided, while turn-level supervision may suppress necessary exploration. We introduce ToolCompass, a post-training framework that guides tool trialing by organizing tool-call representations according to shared functions. Specifically, ToolCompass models each function class as a von Mises--Fisher distribution and jointly reduces intra-function variation across domains and increases inter-function separation. This structure transfers experience from seen tools to functionally similar unseen tools, directing exploration away from unrelated alternatives. ToolCompass requires no ground-truth call traces or unseen-tool access and incurs no inference overhead. Experiments on AppWorld and FTRL show consistent gains across GRPO, RFT, and DMPO. improves AppWorld OOD task success by up to 10.71 percentage points over vanilla post-training and performs best among competitive baselines on both benchmarks.