Are LLMs Correctly Integrated into Software Systems?

📄 arXiv: 2407.05138v2 📥 PDF

作者: Yuchen Shao, Yuheng Huang, Jiawei Shen, Lei Ma, Ting Su, Chengcheng Wan

分类: cs.SE, cs.AI

发布日期: 2024-07-06 (更新: 2025-02-08)

备注: accepted by ICSE 2025

💡 一句话要点

研究揭示LLM与RAG集成软件系统中的缺陷模式并提出改进指南

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 检索增强生成 软件集成 缺陷模式 开源应用 软件质量 系统安全

📋 核心要点

  1. 现有方法在将LLM和RAG集成到软件系统时，面临接口规范缺失、需求多样和系统管理复杂等挑战。
  2. 该研究通过分析大量开源项目，识别出常见的集成缺陷模式，并据此提出系统性的改进指南。
  3. 研究发现大部分应用存在多种集成缺陷，并构建了开源缺陷库Hydrangea，为开发者提供参考。

📝 摘要（中文）

大型语言模型（LLM）在检索增强生成（RAG）的支持下，为各种应用场景提供了有效的解决方案。然而，由于缺乏接口规范、软件环境的各种需求以及复杂的系统管理，开发人员在将LLM和RAG集成到软件系统中面临挑战。本文对100个集成了LLM并支持RAG的开源应用进行了全面研究，识别出18种缺陷模式。研究表明，77%的应用程序包含三种以上的集成缺陷，这些缺陷会降低软件的功能性、效率和安全性。在研究的指导下，我们提出了在软件生命周期中解决这些缺陷的系统性指南。我们还构建了一个开源缺陷库Hydrangea。

🔬 方法详解

问题定义：论文旨在解决将大型语言模型（LLM）与检索增强生成（RAG）集成到软件系统中时遇到的缺陷问题。现有方法的痛点在于缺乏明确的接口规范，难以满足软件环境的各种需求，以及系统管理的复杂性，导致集成后的软件系统在功能性、效率和安全性方面存在缺陷。

核心思路：论文的核心思路是通过对大量实际案例（100个开源应用）进行分析，识别出常见的缺陷模式，并基于这些模式提炼出系统性的改进指南。这种方法从实践出发，更具针对性和实用性。

技术框架：该研究的技术框架主要包括以下几个阶段：1) 收集并分析100个集成了LLM和RAG的开源应用；2) 识别并归纳出18种常见的缺陷模式；3) 分析这些缺陷对软件功能、效率和安全性的影响；4) 基于分析结果，提出系统性的改进指南；5) 构建开源缺陷库Hydrangea，方便开发者参考。

关键创新：该研究的关键创新在于：1) 系统性地识别并分类了LLM和RAG集成到软件系统中的缺陷模式，填补了该领域的空白；2) 基于实际案例提出了具有可操作性的改进指南，为开发者提供了实践指导；3) 构建了开源缺陷库Hydrangea，促进了知识共享和社区合作。

关键设计：论文的关键设计在于缺陷模式的识别和分类方法，以及改进指南的制定。缺陷模式的识别需要深入理解LLM和RAG的工作原理，以及软件系统的架构和需求。改进指南的制定需要考虑不同缺陷模式的特点，以及软件生命周期的各个阶段。具体的参数设置、损失函数、网络结构等技术细节未在摘要中提及，属于未知信息。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

该研究对100个开源应用进行分析，识别出18种缺陷模式，并发现77%的应用包含三种以上的集成缺陷。这些发现突显了LLM与RAG集成过程中存在的问题，并为后续的改进工作提供了明确的方向。开源缺陷库Hydrangea的构建，为开发者提供了一个宝贵的资源，有助于提高软件质量。

🎯 应用场景

该研究成果可广泛应用于各种需要将LLM和RAG集成到软件系统中的领域，例如智能客服、知识库问答、内容生成等。通过参考该研究提出的缺陷模式和改进指南，开发者可以避免常见的集成错误，提高软件的质量、效率和安全性，从而提升用户体验和降低开发成本。该研究还有助于推动LLM在软件工程领域的应用和发展。

📄 摘要（原文）

Large language models (LLMs) provide effective solutions in various application scenarios, with the support of retrieval-augmented generation (RAG). However, developers face challenges in integrating LLM and RAG into software systems, due to lacking interface specifications, various requirements from software context, and complicated system management. In this paper, we have conducted a comprehensive study of 100 open-source applications that incorporate LLMs with RAG support, and identified 18 defect patterns. Our study reveals that 77% of these applications contain more than three types of integration defects that degrade software functionality, efficiency, and security. Guided by our study, we propose systematic guidelines for resolving these defects in software life cycle. We also construct an open-source defect library Hydrangea.