Fast-Slow-Thinking: Complex Task Solving with Large Language Models

📄 arXiv: 2504.08690v1 📥 PDF

作者: Yiliu Sun, Yanfang Zhang, Zicheng Zhao, Sheng Wan, Dacheng Tao, Chen Gong

分类: cs.CL, cs.AI

发布日期: 2025-04-11

备注: 37 pages, 7 figures

💡 一句话要点

提出Fast-Slow-Thinking方法，提升大语言模型在复杂任务中的问题解决能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 任务分解 快慢思考 复杂任务 提示工程

📋 核心要点

  1. 现有任务分解方法在处理复杂逻辑和约束的任务时表现不佳，导致LLM生成结果偏离任务目标或包含错误。
  2. 受人类快慢思考启发，FST方法通过快思考简化任务，再通过慢思考逐步添加约束，优化LLM的输出。
  3. 实验证明，FST方法能有效提升LLM在复杂任务中的表现，使其更像人类一样由粗到精地解决问题。

📝 摘要（中文）

本文提出了一种新的任务分解方法，名为“Fast-Slow-Thinking”（FST），旨在提升大语言模型（LLMs）解决复杂任务的能力。现有的任务分解方法在处理包含过于复杂的逻辑和约束的任务时，性能可能欠佳，导致LLMs生成的解决方案偏离任务的原始目的，或包含冗余甚至错误的内容。FST方法受到人类快思考和慢思考两种思维模式的启发，通过快思考（FT）和慢思考（ST）步骤的协作来引导LLMs解决任务。FT侧重于任务的通用和简洁方面，而ST侧重于任务的细节。在FT中，LLMs被提示移除原始任务的约束，从而将其简化为一个通用且简洁的任务。在ST中，我们回顾在FT中移除的约束，以便LLMs改进FT中生成的答案，以满足原始任务的要求。实验结果表明，FST方法使LLMs能够像人类一样，通过由粗到精的认知过程来考虑复杂问题，并在三种类型的任务上验证了其有效性。

🔬 方法详解

问题定义：论文旨在解决大语言模型在处理具有复杂逻辑和约束的复杂任务时，现有任务分解方法性能不佳的问题。现有方法容易导致LLM生成偏离任务目标或包含错误信息的解决方案，无法有效应对复杂任务的挑战。

核心思路：论文的核心思路是模仿人类的快慢思考模式。通过“快思考”阶段简化任务，去除约束，得到一个初步的、通用的解决方案；然后通过“慢思考”阶段逐步添加约束，细化解决方案，使其满足原始任务的要求。这种由粗到精的思考方式能够帮助LLM更好地理解和解决复杂问题。

技术框架：FST方法包含两个主要阶段：快思考（FT）和慢思考（ST）。在FT阶段，LLM被提示忽略原始任务的约束，生成一个简化的解决方案。在ST阶段，LLM被提示回顾在FT阶段忽略的约束，并基于这些约束改进FT阶段生成的解决方案。整个流程旨在引导LLM逐步逼近最优解，避免一开始就被复杂的约束所困扰。

关键创新：该方法最重要的创新点在于引入了人类认知中的快慢思考模式，并将其应用于大语言模型的任务分解过程中。与传统的任务分解方法不同，FST方法不是简单地将任务分解为多个子任务，而是通过模拟人类的思考过程，引导LLM逐步理解和解决复杂问题。

关键设计：论文中没有详细描述具体的参数设置、损失函数或网络结构等技术细节。关键在于提示工程的设计，即如何有效地提示LLM进行快思考和慢思考。例如，在FT阶段，需要设计合适的提示语，引导LLM忽略任务的约束；在ST阶段，需要设计提示语，引导LLM回顾并应用这些约束。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

论文通过在三种类型的任务上进行实验，验证了FST方法的有效性。虽然摘要中没有提供具体的性能数据和对比基线，但强调了FST方法能够使LLM像人类一样，通过由粗到精的认知过程来考虑复杂问题。实验结果表明，FST方法能够显著提升LLM在复杂任务中的问题解决能力。

🎯 应用场景

FST方法具有广泛的应用前景，可应用于需要复杂推理和决策的领域，如智能客服、法律咨询、金融分析、医疗诊断等。通过模拟人类的思考方式，FST方法可以帮助LLM更好地理解用户需求，生成更准确、更可靠的解决方案，从而提升用户体验和工作效率。未来，该方法有望成为提升LLM在复杂任务中表现的关键技术。

📄 摘要（原文）

Nowadays, Large Language Models (LLMs) have been gradually employed to solve complex tasks. To face the challenge, task decomposition has become an effective way, which proposes to divide a complex task into multiple simpler subtasks and then solve them separately so that the difficulty of the original task can be reduced. However, the performance of existing task decomposition methods can be suboptimal when the task contains overly complex logic and constraints. In this situation, the solution generated by LLMs may deviate from the original purpose of the task, or contain redundant or even erroneous content. Therefore, inspired by the fact that humans possess two thinking systems including fast thinking and slow thinking, this paper introduces a new task decomposition method termed ``Fast-Slow-Thinking'' (FST), which stimulates LLMs to solve tasks through the cooperation of Fast Thinking (FT) and Slow Thinking (ST) steps. Here FT focuses more on the general and concise aspect of the task, and ST focuses more on the details of the task. In FT, LLMs are prompted to remove the constraints of the original task, therefore simplifying it to a general and concise one. In ST, we recall the constraints removed in FT, so that LLMs can improve the answer generated in FT to meet the requirements of the original task. Therefore, our FST method enables LLMs to consider a complex problem via a human-like cognition process from coarse to fine, the effectiveness of which has been well demonstrated by the experiments on three types of tasks.