R$^3$ Prompting: Review, Rephrase and Resolve for Chain-of-Thought Reasoning in Large Language Models under Noisy Context

📄 arXiv: 2310.16535v1 📥 PDF

作者: Qingyuan Tian, Hanlun Zhu, Lei Wang, Yang Li, Yunshi Lan

分类: cs.CL, cs.AI

发布日期: 2023-10-25

💡 一句话要点

提出R$^3$提示方法以解决嘈杂环境下的推理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 链式思维 大型语言模型 推理任务 嘈杂环境 关键句提取 变量声明 答案预测 多轮互动

📋 核心要点

  1. 现有的提示方法在嘈杂环境下的推理任务中表现不佳，导致LLMs生成不准确的结果。
  2. 本文提出的R$^3$提示方法通过多轮互动促进关键句提取和答案预测，增强了推理过程的有效性。
  3. 实验结果显示，R$^3$提示在嘈杂环境下的推理任务中，平均准确率提升了3.7%，显著优于竞争基线。

📝 摘要（中文）

通过链式思维（CoT）提示，大型语言模型（LLMs）在各种推理任务上取得了显著的性能。然而，大多数研究是在无噪声环境下进行评估的，LLMs在嘈杂环境下产生不准确结果的问题尚未得到充分研究。现有研究利用触发句子来鼓励LLMs关注相关信息，但效果有限。受互动CoT方法的启发，本文提出了一种新颖的提示方法R$^3$提示，旨在嘈杂环境下进行CoT推理。R$^3$提示通过与LLMs的互动进行关键句提取、变量声明和答案预测，体现了回顾、重述和解决的思维过程。实验表明，R$^3$提示在嘈杂环境下的五个推理任务中显著优于现有的CoT提示方法。

🔬 方法详解

问题定义：本文解决的是大型语言模型在嘈杂环境下推理时产生不准确结果的问题。现有方法主要依赖触发句子，但在复杂背景下效果有限。

核心思路：R$^3$提示方法通过与LLMs的互动，促进关键句提取、变量声明和答案预测，形成回顾、重述和解决的思维过程，从而提高推理的准确性。

技术框架：R$^3$提示方法包括三个主要模块：关键句提取、变量声明和答案预测。每个模块通过多轮互动进行，前一轮的输出作为下一轮的提示，形成闭环反馈。

关键创新：R$^3$提示的核心创新在于通过多轮互动增强推理过程的连贯性和准确性，区别于传统的单轮提示方法，能够更好地应对嘈杂信息。

关键设计：在参数设置上，R$^3$提示方法优化了每个模块的交互频率和信息提取策略，确保在嘈杂环境中仍能有效提取关键信息。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，R$^3$提示方法在嘈杂环境下的推理任务中，平均准确率提升了3.7%，显著优于最具竞争力的提示基线。这一提升展示了R$^3$提示在处理复杂信息时的有效性和鲁棒性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、智能问答系统和教育技术等。R$^3$提示方法能够提高LLMs在复杂和嘈杂环境下的推理能力，具有重要的实际价值和广泛的应用前景，未来可能推动智能助手和自动化系统的进一步发展。

📄 摘要（原文）

With the help of Chain-of-Thought (CoT) prompting, Large Language Models (LLMs) have achieved remarkable performance on various reasoning tasks. However, most of them have been evaluated under noise-free context and the dilemma for LLMs to produce inaccurate results under the noisy context has not been fully investigated. Existing studies utilize trigger sentences to encourage LLMs to concentrate on the relevant information but the trigger has limited effect on final answer prediction. Inspired by interactive CoT method, where intermediate reasoning steps are promoted by multiple rounds of interaction between users and LLMs, we propose a novel prompting method, namely R$^3$ prompting, for CoT reasoning under noisy context. Specifically, R$^3$ prompting interacts with LLMs to perform key sentence extraction, variable declaration and answer prediction, which corresponds to a thought process of reviewing, rephrasing and resolving. The responses generated at the last interaction will perform as hints to guide toward the responses of the next interaction. Our experiments show that R$^3$ prompting significantly outperforms existing CoT prompting methods on five reasoning tasks under noisy context. With GPT-3.5-turbo, we observe 3.7% accuracy improvement on average on the reasoning tasks under noisy context compared to the most competitive prompting baseline. More analyses and ablation studies show the robustness and generalization of R$^3$ prompting method in solving reasoning tasks in LLMs under noisy context.