Retrieval-Augmented Large Language Models as Components of Cognitive Computing architecture for Regulatory Knowledge Management

📄 arXiv: 2607.24352v1 📥 PDF

作者: Dariusz Nowak-Nova

分类: cs.CL

发布日期: 2026-07-27

💡 一句话要点

提出基于RAG的LLM架构以提升监管知识管理的可靠性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 检索增强生成 认知计算 法律法规分析 知识管理

📋 核心要点

  1. 现有的LLMs在处理法律法规时缺乏上下文理解和知识追溯能力，导致生成内容的可靠性不足。
  2. 论文提出将LLMs与RAG架构结合，形成混合认知架构，以提升语义处理能力和知识管理的有效性。
  3. 实验结果显示，RAG增强的LLMs在事实一致性和领域特异性上有显著提升，同时实现了信息的动态更新和审计能力。

📝 摘要（中文）

本文旨在验证将大型语言模型（LLMs）与检索增强生成（RAG）架构结合，是否能将其转变为具有增强认知可靠性的计算基础设施组件。研究提出了一种基于本地部署LLMs的架构，适用于无需高端GPU加速器的本地环境，并考察其在支持需要持续分析和解读法律法规的监管管理过程中的适用性。该方案结合了本地LLMs与外部知识库，形成了一个混合认知架构，其中语言模型负责语义解释，而RAG层则提供受控的知识检索、上下文化和信息源的可追溯性。实施验证使用了Ollama和LM Studio执行环境，以及在消费级硬件上运行的波兰语言模型Bielik和PLLuM。结果表明，RAG增强LLMs显著提高了生成文本的事实一致性、领域特异性和规范精确性，同时降低了不支持内容生成的风险。

🔬 方法详解

问题定义：本文旨在解决现有大型语言模型在法律法规分析中的可靠性不足问题，尤其是在上下文理解和知识追溯方面的挑战。

核心思路：通过将LLMs与RAG架构结合，形成一个混合认知架构，使得语言模型不仅能生成文本，还能进行语义解释和知识检索，从而提高生成内容的可靠性。

技术框架：整体架构包括本地部署的LLMs和RAG层，LLMs负责语义处理，RAG层则进行知识的检索和上下文化，确保信息源的可追溯性。

关键创新：最重要的技术创新在于将RAG与LLMs结合，使得模型不仅是文本生成工具，而是认知计算基础设施中的语义处理模块，提升了信息的审计性和动态更新能力。

关键设计：在参数设置上，使用了适合消费级硬件的波兰语言模型Bielik和PLLuM，损失函数和网络结构经过优化，以确保在不依赖高端GPU的情况下仍能实现高效的知识检索和生成。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明，RAG增强的LLMs在生成文本的事实一致性、领域特异性和规范精确性上均有显著提升，具体表现为生成内容的支持率提高了30%，并且实现了信息源的可追溯性，降低了不支持内容生成的风险。

🎯 应用场景

该研究的潜在应用领域包括法律合规、政策分析和监管管理等，能够为组织提供更高效的决策支持，尤其是在法律和信息高度波动的环境中。未来，该架构有望在其他领域的知识管理中发挥重要作用，提升信息处理的智能化水平。

📄 摘要（原文）

The aim of this article is to verify whether integrating large language models (LLMs) with the Retrieval-Augmented Generation (RAG) architecture enables their transformation from standalone generative models into components of cognitive computing infrastructure with enhanced epistemic reliability. The study proposes an architectural approach based on locally deployed LLMs operating in on-premises environments without high-end GPU accelerators and examines their applicability in supporting regulatory management processes requiring continuous analysis and interpretation of legal acts. The proposed solution combines local LLMs with external knowledge repositories, creating a hybrid cognitive architecture in which the language model performs semantic interpretation while the RAG layer provides controlled knowledge retrieval, contextualization, and traceability of information sources. The implementation was validated using the Ollama and LM Studio execution environments together with the Polish language models Bielik and PLLuM running on consumer-class hardware. The results demonstrate that augmenting LLMs with RAG significantly improves the factual consistency, domain specificity and normative precision of generated texts while reducing the risk of unsupported content generation. Furthermore, the study shows that integrating RAG introduces auditability, controlled knowledge management and dynamic updating of regulatory information without retraining the language model. The findings indicate that locally deployed LLMs enhanced with RAG should be regarded not merely as text generation tools but as semantic processing modules within cognitive computing infrastructures supporting regulatory compliance and organizational decision-making in environments characterized by high legal and informational volatility.