Awes, Laws, and Flaws From Today's LLM Research
作者: Adrian de Wynter
分类: cs.CL
发布日期: 2024-08-27 (更新: 2025-05-30)
备注: Accepted to ACL 2025 (Findings)
💡 一句话要点
分析2000+LLM研究，揭示伦理声明下降、LLM自评估上升等趋势，并提出改进建议。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 LLM研究 元研究 科学方法 伦理评估 研究趋势 研究质量 人工评估
📋 核心要点
- 现有LLM研究在伦理声明、人工评估等方面存在不足，需要更严格的科学方法。
- 通过大规模分析现有研究，揭示LLM研究领域的趋势和问题，并提出改进建议。
- 研究发现会议检查表能有效缓解部分问题，但需更全面地平衡研究速度与严谨性。
📝 摘要（中文）
本文对当代大型语言模型（LLM）研究背后的科学方法进行了批判性考察。为此，我们基于良好研究的标准（例如，统计检验的存在和可重复性）评估了2020年至2024年间发布的2000多篇研究论文，并将其与争议核心的论点（例如，涌现行为的说法）进行交叉验证。我们发现了多种趋势，例如伦理免责声明的下降、LLM作为评估者的兴起，以及在没有利用人工评估的情况下，对LLM推理能力的声明增加。我们注意到，会议检查表可以有效地减少其中一些问题，但平衡研究的速度和严谨性不能仅仅依靠这些。我们将所有这些发现与最近的元审查结果联系起来，并扩展了关于如何解决LLM研究中哪些有效、哪些无效以及应该有效的问题的建议。
🔬 方法详解
问题定义：当前LLM研究存在方法论上的问题，例如伦理声明的缺失、过度依赖LLM自身评估、以及缺乏人工评估的推理能力声称。现有方法在保证研究严谨性和伦理规范方面存在不足，需要更全面的评估和改进。
核心思路：通过对大量LLM研究论文进行系统性的分析和评估，识别当前研究中存在的缺陷和不足，并基于这些发现提出改进建议。核心在于从宏观层面审视LLM研究的整体质量和发展趋势。
技术框架：该研究采用了一种元研究的方法，主要包括以下几个阶段：1) 数据收集：收集2020年至2024年间发布的2000多篇LLM研究论文。2) 标准制定：制定评估LLM研究质量的标准，包括统计检验的存在、可重复性、伦理声明等。3) 评估分析：基于制定的标准对收集到的论文进行评估和分析，识别存在的趋势和问题。4) 交叉验证：将评估结果与争议性论点（如涌现行为）进行交叉验证。5) 建议提出：基于分析结果和交叉验证，提出改进LLM研究的建议。
关键创新：该研究的关键创新在于其大规模的元研究方法，通过对大量LLM研究论文的系统性分析，揭示了当前研究领域存在的普遍性问题和趋势。与以往的研究相比，该研究更注重从宏观层面审视LLM研究的整体质量和发展方向。
关键设计：研究中关键的设计包括：1) 评估标准的制定，需要涵盖研究的各个方面，包括方法论、伦理、可重复性等。2) 数据收集的范围和方法，需要保证数据的代表性和完整性。3) 分析方法的选择，需要能够有效地识别存在的趋势和问题。4) 建议的提出，需要具有针对性和可操作性。
🖼️ 关键图片
📊 实验亮点
研究发现伦理免责声明在LLM研究中呈下降趋势，LLM作为评估者的角色日益突出，但缺乏足够的人工评估支持。会议检查表在一定程度上能缓解这些问题，但无法完全解决。研究强调了平衡研究速度与严谨性的重要性，并提出了具体的改进建议。
🎯 应用场景
该研究成果可应用于指导LLM研究人员改进研究方法，提高研究质量和伦理水平。同时，可以为会议组织者和期刊编辑提供参考，完善评审标准和流程，促进LLM研究领域的健康发展。此外，该研究也对关注LLM技术发展的政策制定者具有参考价值。
📄 摘要（原文）
We perform a critical examination of the scientific methodology behind contemporary large language model (LLM) research. For this we assess over 2,000 research works released between 2020 and 2024 based on criteria typical of what is considered good research (e.g. presence of statistical tests and reproducibility), and cross-validate it with arguments that are at the centre of controversy (e.g., claims of emergent behaviour). We find multiple trends, such as declines in ethics disclaimers, a rise of LLMs as evaluators, and an increase on claims of LLM reasoning abilities without leveraging human evaluation. We note that conference checklists are effective at curtailing some of these issues, but balancing velocity and rigour in research cannot solely rely on these. We tie all these findings to findings from recent meta-reviews and extend recommendations on how to address what does, does not, and should work in LLM research.