Toolink: Linking Toolkit Creation and Using through Chain-of-Solving on Open-Source Model

📄 arXiv: 2310.05155v2 📥 PDF

作者: Cheng Qian, Chenyan Xiong, Zhenghao Liu, Zhiyuan Liu

分类: cs.CL, cs.AI

发布日期: 2023-10-08 (更新: 2024-03-18)

备注: NAACL 2024 Main

💡 一句话要点

提出Toolink框架以解决开放源模型工具使用的适应性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 开源模型 工具使用 链式解决 任务适应性 模型微调 智能助手

📋 核心要点

  1. 现有大型语言模型在工具使用上存在闭源和高成本的局限性，难以适应多样化任务需求。
  2. Toolink框架通过创建工具包并结合链式解决方法，优化了工具的规划与调用过程，提高了模型的适应性。
  3. 实验结果表明，LLaMA-CoS在多项任务上表现优异，其CoS能力与ChatGPT相当，且超越了传统链式思维方法。

📝 摘要（中文）

大型语言模型（LLMs）在工具使用方面取得了显著进展，但其闭源特性和高推理成本限制了适应性，亟需一种有效的方法来利用较小的开源模型。本文提出了Toolink，一个综合框架，通过创建工具包并通过链式解决（CoS）方法整合工具的规划和调用，从而实现任务解决。我们首先验证了Toolink在利用模型创造力和CoS能力方面的有效性，并构建了用于工具使用的CoS-GPT数据集，进一步微调了LLaMA-7B模型，最终得到具有先进工具规划和调用能力的开源模型LLaMA-CoS。对BIG-bench中多样任务的评估表明，其CoS能力与ChatGPT相当，且性能超越了链式思维方法。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在工具使用中的适应性问题，尤其是闭源模型的局限性和高推理成本带来的挑战。现有方法难以有效利用开源模型的潜力。

核心思路：Toolink框架的核心思想是通过创建工具包并采用链式解决（CoS）方法，整合工具的规划和调用，从而提升模型在多样任务中的表现和适应性。

技术框架：Toolink框架包括两个主要阶段：首先是工具包的创建，其次是通过CoS方法进行任务解决。框架的设计使得模型能够灵活调用不同的工具，增强了任务解决的灵活性和效率。

关键创新：最重要的技术创新在于提出了链式解决方法（CoS），该方法有效地将工具的规划与调用整合在一起，显著提升了模型的任务适应能力，与现有方法相比具有更高的灵活性和效率。

关键设计：在模型微调过程中，采用了LLaMA-7B作为基础模型，并设计了特定的损失函数以优化工具调用的准确性和效率。此外，CoS-GPT数据集的构建为模型提供了丰富的训练数据，进一步提升了其性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在多项任务评估中，LLaMA-CoS的CoS能力与ChatGPT相当，且在性能上超越了传统的链式思维方法，展示了其在工具使用上的显著优势。具体实验结果表明，LLaMA-CoS在BIG-bench任务集中的表现优于多种基线模型，验证了其有效性。

🎯 应用场景

Toolink框架具有广泛的潜在应用场景，包括智能助手、自动化任务处理和复杂问题求解等领域。其开源特性使得开发者能够根据具体需求进行定制，未来可能推动更多基于工具的智能应用的发展。

📄 摘要（原文）

Large Language Models (LLMs) have demonstrated remarkable progress in utilizing tools, but their closed-source nature and high inference costs pose limitations on their adaptability, necessitating a valid method that leverages smaller, open-sourced models. In this paper, we introduce Toolink, a comprehensive framework that performs task-solving by first creating a toolkit and then integrating the planning and calling of tools through a chain-of-solving (CoS) approach. We first validate the efficacy of Toolink in harnessing the model's creativity and CoS ability on ChatGPT. Subsequently, we curate CoS-GPT, a chain-of-solving dataset designed for tool-using, and finetune the LLaMA-7B model. It results in LLaMA-CoS, a powerful open-source model with advanced tool-planning and tool-calling capabilities. Evaluation of diverse tasks from BIG-bench demonstrates its CoS ability matches that of ChatGPT while its performance surpasses the chain-of-thought approach. Further studies highlight the generalization of LLaMA-CoS to unseen tasks and showcase its capability in using toolkits not explicitly tailored for the target task, affirming its robustness in real-world scenarios.