Assessing and Enhancing the Robustness of Large Language Models with Task Structure Variations for Logical Reasoning

📄 arXiv: 2310.09430v5 📥 PDF

作者: Qiming Bao, Gael Gendron, Alex Yuxuan Peng, Wanjun Zhong, Neset Tan, Yang Chen, Michael Witbrock, Jiamou Liu

分类: cs.CL, cs.AI

发布日期: 2023-10-13 (更新: 2025-01-17)

备注: The short version (v3) was accepted for oral presentation at the first LLM@IJCAI 2023 non-archival symposium, and the full version was accepted by ICONIP 2024

🔗 代码/项目: GITHUB

💡 一句话要点

提出逻辑推理任务结构变体以提升大型语言模型的鲁棒性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 逻辑推理 大型语言模型 数据增强 模型鲁棒性 任务结构变体

📋 核心要点

  1. 现有大型语言模型在逻辑推理任务中的泛化能力和鲁棒性不足，尤其在面对结构变化时表现较差。
  2. 本文提出通过构建新的逻辑推理数据集，并引入任务结构变体，来评估和提升模型的推理能力。
  3. 实验结果显示，模型在新数据集上的表现显著低于原始数据集，通过任务变体训练可提升其性能。

📝 摘要（中文）

大型语言模型（LLMs），如LLaMA、Alpaca、Vicuna、GPT-3.5和GPT-4，在各种自然语言处理任务上已达到类人水平。然而，它们在逻辑推理方面的泛化能力和鲁棒性尚未得到充分评估。为此，本文开发了三个新的逻辑推理数据集，分别为'ReClor-plus'、'LogiQA-plus'和'LogiQAv2-plus'，以评估LLM的推理鲁棒性。每个数据集包含三个子集，分别为随机打乱选项、用“其他选项均不正确”替换正确选项，以及打乱与替换的组合。实验结果表明，这些简单的增强方式显著降低了模型的性能。尽管模型在原始数据集上表现良好，但在新构建的数据集上表现不佳。引入任务变体到训练集中能够显著提升模型在原始及新数据集上的表现。最后，应用基于逻辑的数据增强进行微调和提示可以增强模型的泛化能力。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在逻辑推理任务中面对结构变化时的鲁棒性不足问题。现有方法在标准数据集上表现良好，但在面对简单的选项变动时，性能显著下降。

核心思路：通过构建新的逻辑推理数据集'ReClor-plus'、'LogiQA-plus'和'LogiQAv2-plus'，并引入任务结构变体，评估模型在逻辑推理中的鲁棒性。通过在训练集中加入这些变体，提升模型的适应能力和泛化性能。

技术框架：整体架构包括数据集构建、模型训练和性能评估三个主要阶段。首先，构建包含多种变体的逻辑推理数据集；其次，使用这些数据集对模型进行训练和微调；最后，评估模型在不同数据集上的表现。

关键创新：本文的主要创新在于引入任务结构变体，通过简单的选项打乱和替换方式，系统性地评估模型的鲁棒性。这一方法与传统的评估方式不同，强调了模型在面对变化时的适应能力。

关键设计：在数据集构建中，设计了三种子集，分别为随机打乱选项、替换正确选项和组合方式。训练过程中，采用逻辑驱动的数据增强策略进行微调，确保模型在多种任务结构下均能保持较好的性能。具体的损失函数和网络结构细节未在摘要中详细说明，需参考原文。

📊 实验亮点

实验结果显示，所有模型在新构建的数据集上表现不佳，尽管在原始数据集上性能良好。引入任务结构变体的训练显著提升了模型的表现，尤其是在逻辑推理任务中，模型的鲁棒性得到了有效增强。

🎯 应用场景

该研究的潜在应用领域包括教育、法律推理、医疗决策等需要逻辑推理的场景。通过提升大型语言模型在逻辑推理任务中的鲁棒性，可以更好地支持智能问答系统、自动推理工具和决策支持系统，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large language models (LLMs), such as LLaMA, Alpaca, Vicuna, GPT-3.5 and GPT-4, have advanced the performance of AI systems on various natural language processing tasks to human-like levels. However, their generalisation and robustness when performing logical reasoning has not been sufficiently assessed. To comprehensively evaluate this ability, we develop three new logical reasoning datasets named "ReClor-plus", "LogiQA-plus" and "LogiQAv2-plus" that extend standard logical reasoning datasets to evaluate the robustness of the LLM's reasoning. For each, we create three subsets: the first with randomly shuffled options, the second with the correct choices replaced by "none of the other options is correct", and the third with a combination of shuffling and substitution. Experiments on these datasets show that these simple augmentations greatly hinder the models' performance. Despite their high performance on the original publicly available datasets, we find that all models perform poorly on these newly constructed datasets. We also demonstrate that introducing task variations into the training set can markedly improve the model's performance on both the original and our developed datasets. Finally, we show that applying logic-driven data augmentation for fine-tuning and prompting can enhance generalisation in both discriminative and generative models, offering a path to improving their robustness for tasks involving logical reasoning. Source code and data are made publicly available at https://github.com/Strong-AI-Lab/Logical-and-abstract-reasoning.