Enhancing Tool Learning in Large Language Models with Hierarchical Error Checklists

📄 arXiv: 2506.00042v1 📥 PDF

作者: Yue Cui, Liuyi Yao, Shuchang Tao, Weijie Shi, Yaliang Li, Bolin Ding, Xiaofang Zhou

分类: cs.CL

发布日期: 2025-05-28

💡 一句话要点

提出HiTEC框架，通过分层错误检查列表提升大语言模型工具学习能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 工具学习 参数填充 错误检查列表 上下文学习

📋 核心要点

  1. 现有大语言模型在工具调用时，常因参数误填而影响性能，缺乏有效的错误诊断和纠正机制。
  2. HiTEC框架通过构建分层错误检查列表，从全局和局部两个层面系统性地诊断和缓解工具调用中的参数错误。
  3. 实验结果表明，HiTEC框架显著提升了参数填充准确性和工具调用成功率，优于现有基线方法。

📝 摘要（中文）

大型语言模型（LLMs）通过集成外部工具和API，在自然语言处理领域取得了显著进展。然而，工具调用过程中参数误填的问题经常阻碍其有效性。本文提出了分层工具错误检查列表（HiTEC）框架，旨在系统地诊断和缓解工具调用错误，而无需依赖大量的真实交互。HiTEC引入了一种双层方法：一个识别常见、跨工具问题的全局错误检查列表，以及一个针对工具特定和上下文失败的局部错误检查列表。基于此结构，我们提出了两种部署方式：HiTEC-上下文学习（HiTEC-ICL）和HiTEC-Kahneman-Tversky优化（HiTEC-KTO）。HiTEC-ICL将全局检查列表嵌入到初始提示中，并利用两轮对话交互来动态地改进参数处理，而HiTEC-KTO生成高质量的负样本，通过基于偏好的优化来驱动微调。在五个公共数据集上的大量实验表明，与基线方法相比，我们的框架显著提高了参数填充准确性和工具调用成功率。

🔬 方法详解

问题定义：大语言模型在工具调用时，由于参数理解偏差或上下文信息不足，容易出现参数误填，导致工具调用失败。现有方法缺乏系统性的错误诊断和纠正机制，通常需要大量真实交互数据进行训练，成本高昂。

核心思路：HiTEC的核心思路是构建一个分层的错误检查列表，模拟人工调试过程，从全局和局部两个层面识别和纠正参数错误。全局检查列表关注跨工具的通用错误，局部检查列表则针对特定工具和上下文。

技术框架：HiTEC框架包含两个主要组成部分：分层错误检查列表（HiTEC）和两种部署方式（HiTEC-ICL和HiTEC-KTO）。HiTEC由全局错误检查列表和局部错误检查列表组成。HiTEC-ICL将全局检查列表嵌入到初始提示中，并通过两轮对话交互动态调整参数。HiTEC-KTO则生成高质量的负样本，用于基于偏好的优化微调。

关键创新：HiTEC的关键创新在于其分层错误检查列表的设计，能够系统性地诊断和缓解工具调用中的参数错误，而无需依赖大量的真实交互数据。此外，HiTEC-ICL和HiTEC-KTO两种部署方式，分别利用了上下文学习和偏好优化，进一步提升了工具调用性能。

关键设计：全局错误检查列表包含常见的参数类型错误、格式错误等。局部错误检查列表则根据具体工具的API文档和上下文信息进行定制。HiTEC-ICL中，两轮对话交互的设计允许模型在第一轮根据全局检查列表进行初步修正，第二轮根据局部检查列表进行精细调整。HiTEC-KTO中，负样本的生成策略至关重要，需要保证负样本的质量和多样性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，HiTEC框架在五个公共数据集上显著提高了参数填充准确性和工具调用成功率。例如，在某个数据集上，HiTEC-ICL将工具调用成功率提升了15%，HiTEC-KTO则提升了20%，均优于现有基线方法。

🎯 应用场景

该研究成果可应用于智能助手、自动化流程、代码生成等领域，提升大语言模型在复杂任务中的工具调用能力，降低人工干预成本，提高任务完成效率。未来可进一步探索更智能的错误检查列表生成方法，以及更有效的负样本生成策略。

📄 摘要（原文）

Large language models (LLMs) have significantly advanced natural language processing, particularly through the integration of external tools and APIs. However, their effectiveness is frequently hampered by parameter mis-filling during tool calling. In this paper, we propose the Hierarchical Tool Error Checklist (HiTEC) framework to systematically diagnose and mitigate tool-calling errors without relying on extensive real-world interactions. HiTEC introduces a two-tiered approach: a global error checklist that identifies common, cross-tool issues, and a local error checklist that targets tool-specific and contextual failures. Building on this structure, we propose two deployments: HiTEC-In Context Learning (HiTEC-ICL) and HiTEC-Kahneman-Tversky Optimization (HiTEC-KTO). HiTEC-ICL embeds the global checklist in the initial prompts and leverages a two-round conversational interaction to dynamically refine parameter handling, while HiTEC-KTO generates high-quality negative examples to drive fine-tuning via preference-based optimization. Extensive experiments across five public datasets demonstrate that our framework significantly improves parameter-filling accuracy and tool-calling success rates compared to baseline methods.