RAILS: Retrieval-Augmented Incremental LLM Clustering at Scale

📄 arXiv: 2609.24464v1 📥 PDF

作者: Armin Oliya, Aleksandra Sawczuk, Radosław Białobrzeski

分类: cs.LG

发布日期: 2026-09-21

💡 一句话要点

提出RAILS以解决大规模LLM聚类效率问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 增量聚类 文档处理 聚类质量 数据检索 有界并发 SaaS应用

📋 核心要点

  1. 现有方法在使用大型语言模型进行聚类时，面临提示空间不足和处理效率低的问题。
  2. RAILS通过检索增强和增量处理，将聚类过程转化为对标签池的简单循环，并支持文档批处理。
  3. 在六个基准测试中，RAILS显著提高了聚类准确率和其他评估指标，展示了其优越性。

📝 摘要（中文）

使用大型语言模型（LLM）进行生产级聚类面临挑战：提示无法容纳整个标签空间，逐文档串行处理无法满足实际工作负载的吞吐量要求。本文提出RAILS，一种检索增强的增量LLM聚类器，将聚类过程简化为对不断增长的标签池的循环，并通过有界并发实现文档批处理的扩展。在六个公共基准测试中，RAILS的平均准确率从51.2%提升至59.3%，NMI从67.2%提升至74.8%，ARI从45.4%提升至54.7%。此外，我们还报告了RAILS在SaaS票务主题发现管道中的生产部署证据，RAILS以更高的聚类质量、透明的提示驱动控制和有状态的增量操作取代了传统的HDBSCAN阶段。

🔬 方法详解

问题定义：本文旨在解决使用大型语言模型进行聚类时的效率和准确性问题。现有方法在处理大规模数据时，提示无法涵盖所有标签，且逐文档处理速度较慢，无法满足实际需求。

核心思路：RAILS的核心思路是通过检索增强和增量处理，将聚类过程简化为对不断扩展的标签池的循环操作，同时支持文档的批量处理，以提高处理效率和聚类质量。

技术框架：RAILS的整体架构包括数据检索模块、增量聚类模块和标签管理模块。数据检索模块负责从已有标签中获取相关信息，增量聚类模块则执行聚类操作，而标签管理模块则维护和更新标签池。

关键创新：RAILS的主要创新在于其检索增强的增量聚类方法，与传统的HDBSCAN等方法相比，RAILS能够在保持高聚类质量的同时，显著提高处理速度和效率。

关键设计：RAILS在设计上采用了有界并发处理策略，允许在处理文档时进行批量操作。此外，系统还实现了透明的提示驱动控制，使得用户能够更灵活地管理聚类过程。具体的参数设置和损失函数设计未在摘要中详细说明，需查阅原文以获取更多信息。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

RAILS在六个公共基准测试中表现优异，准确率从51.2%提升至59.3%，NMI从67.2%提升至74.8%，ARI从45.4%提升至54.7%。这些结果表明RAILS在聚类质量上超越了以往最强的LLM聚类方法，展示了其在实际应用中的有效性。

🎯 应用场景

RAILS的潜在应用领域包括客户支持、社交媒体分析和文档分类等场景，能够帮助企业更高效地处理和分析大量文本数据。通过提高聚类质量和处理效率，RAILS为数据驱动的决策提供了更强的支持，未来可能在各类智能系统中得到广泛应用。

📄 摘要（原文）

Using a Large Language Model (LLM) as the clusterer at production scale is hard: prompts cannot hold the entire label space, and per-document serial processing does not deliver the throughput real workloads require. We present RAILS, a retrieval-augmented incremental LLM clusterer that turns clustering into a simple loop over a growing label pool and scales through document batching with bounded concurrency. On six public benchmarks RAILS exceeds the strongest prior LLM-clustering method on average, lifting accuracy from 51.2% to 59.3%, NMI from 67.2% to 74.8%, and ARI from 45.4% to 54.7%. We further report production-deployment evidence from a SaaS ticket-topic-discovery pipeline, where RAILS has replaced a traditional HDBSCAN stage with higher clustering quality, transparent prompt-driven control, and stateful incremental operation.