Achieving Tool Calling Functionality in LLMs Using Only Prompt Engineering Without Fine-Tuning

📄 arXiv: 2407.04997v1 📥 PDF

作者: Shengtao He

分类: cs.SE, cs.AI, cs.HC

发布日期: 2024-07-06

备注: 5 pages, 2 figures,review comments welcome

💡 一句话要点

仅用Prompt工程实现LLM的工具调用功能，无需微调

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 工具调用 Prompt工程 零样本学习 无微调 自然语言处理 智能助手

📋 核心要点

  1. 现有LLM工具调用依赖微调，耗时耗力，限制了其在资源受限场景的应用。
  2. 该论文提出仅通过prompt工程和巧妙的代码设计，无需微调即可实现稳定的工具调用。
  3. 实验表明，该方法在多种LLM和工具调用任务上均取得了100%的成功率。

📝 摘要（中文）

目前，绝大多数本地部署的开源大型语言模型（LLMs）和一些商业模型接口不支持稳定的工具调用功能。现有的解决方案通常需要对LLMs进行微调，这导致大量的时间和计算资源消耗。本文提出了一种方法，仅使用prompt工程和一些巧妙的代码设计，就能使LLMs实现稳定的工具调用能力。我们在多种缺乏工具调用能力的LLMs上，针对各种工具调用任务进行了实验，成功率达到了100%。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLMs）缺乏稳定工具调用能力的问题。现有方法主要依赖于对LLMs进行微调，这需要大量的计算资源和时间成本，使得在资源受限的环境中部署和使用LLMs的工具调用功能变得困难。因此，如何以更轻量级的方式，例如仅通过prompt工程，来实现LLMs的工具调用能力，是本文要解决的核心问题。

核心思路：论文的核心思路是利用精心设计的prompt，引导LLM理解并执行工具调用任务，而无需修改模型本身的参数。通过巧妙地构造prompt，可以向LLM清晰地描述可用的工具、工具的使用方法以及期望的输出格式，从而激发LLM的工具调用能力。这种方法避免了微调带来的资源消耗，使得LLM的工具调用功能更加易于部署和使用。

技术框架：论文没有明确的技术框架，其核心在于prompt的设计。整体流程可以概括为：首先，定义需要LLM调用的工具及其功能；然后，设计包含工具描述、使用示例和期望输出格式的prompt；最后，将prompt输入LLM，观察其是否能够正确调用工具并返回结果。关键在于prompt的设计，需要足够清晰和明确，以便LLM能够理解并执行工具调用任务。

关键创新：该论文最重要的技术创新点在于，它证明了仅通过prompt工程，无需对LLM进行微调，就可以实现稳定的工具调用能力。这与现有方法形成了鲜明对比，现有方法通常需要对LLM进行微调才能获得较好的工具调用效果。该方法降低了LLM工具调用的门槛，使得更多开发者可以在资源有限的情况下使用LLM的工具调用功能。

关键设计：论文中没有明确的关键参数设置或网络结构等技术细节，其关键设计在于prompt的构造。一个好的prompt应该包含以下要素：清晰的工具描述（包括工具名称、功能、输入参数和输出格式）、详细的使用示例（展示如何使用工具解决特定问题）以及明确的期望输出格式（例如，JSON格式）。此外，prompt的设计还需要考虑到LLM的特性和偏好，例如，可以使用一些关键词或短语来引导LLM的输出。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

该论文的实验结果表明，仅使用prompt工程，无需微调，即可在多种LLM上实现100%的工具调用成功率。这一结果突出了prompt工程在LLM工具调用中的重要性，并为LLM的应用开辟了新的可能性。该方法避免了微调带来的资源消耗，使得LLM的工具调用功能更加易于部署和使用。

🎯 应用场景

该研究成果可广泛应用于智能助手、自动化流程、智能家居等领域。通过prompt工程，可以快速赋予LLM调用各种工具的能力，例如搜索、计算、API调用等，从而实现更复杂、更智能的任务。该方法降低了LLM工具调用的成本，使得更多开发者可以利用LLM构建智能应用。

📄 摘要（原文）

Currently, the vast majority of locally deployed open-source large language models (LLMs) and some commercial model interfaces do not support stable tool calling functionality. The existing solution involves fine-tuning LLMs, which results in significant time and computational resource consumption. This paper proposes a method that enables LLMs to achieve stable tool calling capabilities using only prompt engineering and some ingenious code design. We conducted experiments on multiple LLMs that lack tool calling capabilities across various tool calling tasks, achieving a success rate of 100%.