Corrective In-Context Learning: Evaluating Self-Correction in Large Language Models

📄 arXiv: 2503.16022v1 📥 PDF

作者: Mario Sanz-Guerrero, Katharina von der Wense

分类: cs.CL

发布日期: 2025-03-20

备注: Accepted to the 6th Workshop on Insights from Negative Results in NLP at NAACL 2025

💡 一句话要点

提出纠正性上下文学习(CICL)，探索LLM的自纠错能力，但实验表明其性能不如标准ICL。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 上下文学习 大型语言模型 自纠错 文本分类 少样本学习

📋 核心要点

  1. ICL在LLM中被广泛应用，但其在处理复杂任务时容易出错，性能有待提升。
  2. 论文提出CICL，旨在通过将错误预测和正确标签同时加入prompt，使LLM具备自纠错能力。
  3. 实验结果表明，CICL性能不如标准ICL，且随着错误更正比例增加，性能反而下降。

📝 摘要（中文）

上下文学习(ICL)已经改变了大型语言模型(LLM)在自然语言处理任务中的应用，通过在不进行微调的情况下，以带标签的示例为条件进行少样本学习。尽管ICL非常有效，但它容易出错，尤其是在处理具有挑战性的示例时。为了提高ICL的性能，我们提出了纠正性上下文学习(CICL)，该方法将模型的不正确预测以及ground truth纠正纳入提示中，旨在通过自纠错来提高分类准确率。然而，与我们的假设相反，在文本分类任务上的大量实验表明，CICL始终不如标准ICL，并且随着提示中更正比例的增加，性能会下降。我们的研究结果表明，CICL通过扰乱模型对任务的理解而引入了混淆，而不是改进其预测。此外，我们观察到在标准ICL中呈现更难的示例并不能提高性能，这表明示例难度本身可能不是有效选择的可靠标准。通过展示这些负面结果，我们为LLM中自纠正机制的局限性提供了重要的见解，并为未来的研究提供了方向。

🔬 方法详解

问题定义：论文旨在解决大型语言模型(LLM)在上下文学习(ICL)中容易出错的问题，尤其是在处理复杂或具有挑战性的示例时。现有的ICL方法虽然有效，但缺乏有效的自纠错机制，导致在某些情况下性能不佳。因此，如何提升ICL的鲁棒性和准确性是一个重要的研究问题。

核心思路：论文的核心思路是引入“纠正性上下文学习”(CICL)，即在prompt中不仅包含正确的示例，还包含模型之前的错误预测以及对应的正确标签。作者假设通过这种方式，模型可以学习到自身的错误模式，从而在后续的预测中进行自我纠正，提高整体的分类准确率。

技术框架：CICL的技术框架主要包括以下几个步骤：1) 使用标准的ICL方法对一批示例进行预测；2) 识别出预测错误的示例；3) 将这些错误示例及其对应的正确标签添加到prompt中，形成一个包含错误和更正的混合prompt；4) 使用这个混合prompt再次对新的示例进行预测。通过对比使用标准ICL和CICL的性能，评估CICL的有效性。

关键创新：该论文的关键创新在于提出了将模型的错误预测纳入prompt中的自纠错机制。与传统的ICL方法只使用正确示例不同，CICL试图利用模型的错误信息来提升其学习能力。这种方法的独特性在于它假设LLM能够从自身的错误中学习，从而提高泛化能力。

关键设计：论文的关键设计在于prompt中错误示例和正确标签的比例。作者通过实验探索了不同比例的错误更正对模型性能的影响，发现随着错误更正比例的增加，CICL的性能反而下降。这表明简单的将错误信息加入prompt可能会干扰模型的学习过程，需要更精细的设计才能实现有效的自纠错。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CICL在文本分类任务上的表现始终不如标准ICL。更令人惊讶的是，随着prompt中错误更正比例的增加，CICL的性能反而显著下降。此外，研究还发现，在标准ICL中加入更难的示例并不能有效提升性能。这些负面结果揭示了LLM自纠错机制的局限性，为未来的研究提供了重要的参考。

🎯 应用场景

该研究探索了LLM自纠错能力，虽然结果为负，但为未来研究提供了重要启示。潜在应用领域包括：提升LLM在信息抽取、文本分类等任务中的准确性；开发更鲁棒的ICL方法；设计更有效的自监督学习策略。研究结果有助于更好地理解LLM的学习机制，并指导未来LLM的优化方向。

📄 摘要（原文）

In-context learning (ICL) has transformed the use of large language models (LLMs) for NLP tasks, enabling few-shot learning by conditioning on labeled examples without finetuning. Despite its effectiveness, ICL is prone to errors, especially for challenging examples. With the goal of improving the performance of ICL, we propose corrective in-context learning (CICL), an approach that incorporates a model's incorrect predictions alongside ground truth corrections into the prompt, aiming to enhance classification accuracy through self-correction. However, contrary to our hypothesis, extensive experiments on text classification tasks demonstrate that CICL consistently underperforms standard ICL, with performance degrading as the proportion of corrections in the prompt increases. Our findings indicate that CICL introduces confusion by disrupting the model's task understanding, rather than refining its predictions. Additionally, we observe that presenting harder examples in standard ICL does not improve performance, suggesting that example difficulty alone may not be a reliable criterion for effective selection. By presenting these negative results, we provide important insights into the limitations of self-corrective mechanisms in LLMs and offer directions for future research.