More is More: Addition Bias in Large Language Models

📄 arXiv: 2409.02569v1 📥 PDF

作者: Luca Santagata, Cristiano De Nobili

分类: cs.CL, cs.AI, cs.CY, cs.HC

发布日期: 2024-09-04

备注: 25 pages, 8 figures

💡 一句话要点

揭示大语言模型中的加法偏见：倾向于添加而非删除修改

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 加法偏见 认知偏差 资源效率 可持续AI

📋 核心要点

  1. 现有研究较少关注LLM在修改任务中存在的加法偏见，即倾向于添加而非删除信息，这可能导致资源浪费和效率降低。
  2. 该研究通过设计回文创建、乐高塔平衡和文本摘要等任务，考察LLM在不同场景下进行加法或减法修改的倾向性。
  3. 实验结果表明，包括GPT-3.5 Turbo、Llama 3.1和Mistral 7B在内的多个LLM都表现出显著的加法偏见，验证了LLM中存在与人类相似的认知偏差。

📝 摘要（中文）

本文研究了大语言模型（LLM）中存在的加法偏见，将其与人类认知中倾向于加法而非减法改变的偏见进行类比。通过一系列受控实验，我们测试了包括GPT-3.5 Turbo、Claude 3.5 Sonnet、Mistral、Math$Σ$tral和Llama 3.1在内的多种LLM，考察它们在执行需要加法或减法修改的任务时的倾向性。研究结果表明，所有测试模型都表现出显著的加法偏好。例如，在回文创建任务中，Llama 3.1在97.85%的情况下倾向于添加字母而不是删除字母。类似地，在乐高塔平衡任务中，GPT-3.5 Turbo在76.38%的情况下选择添加砖块而不是移除砖块。在文本摘要任务中，Mistral 7B在59.40%到75.10%的情况下生成更长的摘要，当被要求改进自己或他人的写作时。这些结果表明，与人类类似，LLM表现出明显的加法偏见，这可能在LLM大规模使用时产生影响。加法偏见可能会增加资源使用和环境影响，导致因过度消费和浪费而产生的更高经济成本。在LLM的开发和应用中应考虑这种偏见，以确保平衡和高效的问题解决策略。

🔬 方法详解

问题定义：论文旨在研究大语言模型（LLM）在进行修改任务时，是否存在类似于人类的“加法偏见”，即更倾向于添加而非删除信息。现有方法通常关注LLM的生成能力和准确性，而忽略了其在修改任务中的偏好，这可能导致不必要的资源消耗和效率降低。

核心思路：论文的核心思路是通过设计一系列受控实验，量化LLM在不同任务中进行加法或减法操作的倾向性。通过比较LLM在不同场景下的选择，揭示其是否存在系统性的加法偏见。这种设计旨在模拟人类在决策过程中可能存在的认知偏差，并将其应用于LLM的评估。

技术框架：该研究的技术框架主要包括以下几个阶段：1) 任务设计：设计三种不同类型的任务，包括回文创建、乐高塔平衡和文本摘要，分别考察LLM在文本生成、物理推理和文本编辑方面的加法偏见。2) 模型选择：选择多个主流LLM进行测试，包括GPT-3.5 Turbo、Claude 3.5 Sonnet、Mistral、Math$Σ$tral和Llama 3.1，以验证结果的普遍性。3) 实验执行：针对每个任务，设计多个测试用例，并记录LLM在每个用例中的选择（添加或删除）。4) 结果分析：统计LLM在不同任务中选择添加或删除的比例，并进行统计显著性分析，以验证加法偏见的存在。

关键创新：该研究的关键创新在于首次系统性地研究了LLM中的加法偏见，并将其与人类认知偏差进行类比。通过设计多种类型的任务，验证了加法偏见在不同场景下的存在，并量化了其程度。此外，该研究还探讨了加法偏见可能带来的潜在影响，例如资源浪费和环境影响。

关键设计：在回文创建任务中，研究人员要求LLM通过添加或删除字母来创建一个回文。在乐高塔平衡任务中，LLM需要通过添加或删除砖块来保持塔的平衡。在文本摘要任务中，LLM需要通过修改文本来改进摘要的质量。对于每个任务，研究人员都设计了多个测试用例，并记录LLM的选择。此外，研究人员还使用了统计显著性检验来验证结果的可靠性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所有测试的LLM都表现出显著的加法偏见。例如，在回文创建任务中，Llama 3.1在97.85%的情况下倾向于添加字母而不是删除字母。在乐高塔平衡任务中，GPT-3.5 Turbo在76.38%的情况下选择添加砖块而不是移除砖块。在文本摘要任务中，Mistral 7B在59.40%到75.10%的情况下生成更长的摘要。

🎯 应用场景

该研究结果可应用于LLM的优化和改进，例如通过引入正则化项来抑制加法偏见，从而提高LLM的效率和可持续性。此外，该研究还可以帮助开发者更好地理解LLM的决策过程，从而设计更可靠和可控的AI系统。该研究对于开发更环保、更经济的LLM具有重要意义。

📄 摘要（原文）

In this paper, we investigate the presence of additive bias in Large Language Models (LLMs), drawing a parallel to the cognitive bias observed in humans where individuals tend to favor additive over subtractive changes. Using a series of controlled experiments, we tested various LLMs, including GPT-3.5 Turbo, Claude 3.5 Sonnet, Mistral, Math$Σ$tral, and Llama 3.1, on tasks designed to measure their propensity for additive versus subtractive modifications. Our findings demonstrate a significant preference for additive changes across all tested models. For example, in a palindrome creation task, Llama 3.1 favored adding letters 97.85% of the time over removing them. Similarly, in a Lego tower balancing task, GPT-3.5 Turbo chose to add a brick 76.38% of the time rather than remove one. In a text summarization task, Mistral 7B produced longer summaries in 59.40% to 75.10% of cases when asked to improve its own or others' writing. These results indicate that, similar to humans, LLMs exhibit a marked additive bias, which might have implications when LLMs are used on a large scale. Addittive bias might increase resource use and environmental impact, leading to higher economic costs due to overconsumption and waste. This bias should be considered in the development and application of LLMs to ensure balanced and efficient problem-solving approaches.