Text Clustering as Classification with LLMs

📄 arXiv: 2410.00927v3 📥 PDF

作者: Chen Huang, Guoxiu He

分类: cs.CL, cs.IR

发布日期: 2024-09-30 (更新: 2025-10-07)

备注: 11 pages, 3 figures

🔗 代码/项目: GITHUB

💡 一句话要点

提出一种基于LLM上下文学习的文本聚类框架，无需微调和复杂算法，简化文本聚类流程。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 文本聚类 大型语言模型 上下文学习 分类任务 自然语言处理 无监督学习 零样本学习

📋 核心要点

  1. 现有基于LLM的文本聚类方法依赖微调的嵌入模型和复杂相似度计算，计算成本高且需领域适配。
  2. 该论文提出将文本聚类转化为分类任务，利用LLM的上下文学习能力，无需微调和复杂算法。
  3. 实验结果表明，该框架在多种数据集上达到或超过了现有最佳性能，并显著降低了计算复杂度。

📝 摘要（中文）

文本聚类是组织和解释非结构化文本数据的基本技术，尤其是在人工标注成本高昂的情况下。随着大型语言模型（LLM）的快速发展及其在广泛的NLP任务中表现出的有效性，越来越多的研究开始探索它们在文本聚类领域的潜力。然而，现有的基于LLM的方法仍然依赖于微调的嵌入模型和复杂的相似性度量，导致计算密集且需要特定领域的适应。为了解决这些限制，我们提出了一种新颖的框架，通过利用LLM的上下文学习能力，将文本聚类重新定义为分类任务。我们的框架无需微调嵌入模型或复杂的聚类算法。它包括两个关键步骤：首先，提示LLM基于数据集生成一组候选标签，然后合并语义相似的标签；其次，将最合适的标签分配给每个文本样本。通过利用LLM先进的自然语言理解和泛化能力，所提出的方法能够以最小的人工干预实现有效的聚类。在各种数据集上的实验结果表明，我们的框架实现了与最先进的基于嵌入的聚类技术相当或更优越的性能，同时显著降低了计算复杂性和资源需求。这些发现强调了LLM在简化和增强文本聚类任务方面的变革潜力。我们将代码公开，供大家使用。

🔬 方法详解

问题定义：论文旨在解决现有基于LLM的文本聚类方法计算成本高、需要领域适配的问题。现有方法依赖于微调的嵌入模型和复杂的相似性度量，限制了其在实际应用中的效率和通用性。

核心思路：论文的核心思路是将文本聚类问题转化为一个分类问题，并利用大型语言模型（LLM）的上下文学习能力来解决。通过提示LLM生成候选标签并进行分类，避免了对嵌入模型进行微调和使用复杂的聚类算法。

技术框架：该框架包含两个主要阶段：1) 标签生成与合并：首先，通过prompting LLM，使其基于输入数据集生成一组候选标签。然后，对语义相似的标签进行合并，以减少标签冗余。2) 文本分类：将每个文本样本输入LLM，并提示其从候选标签中选择最合适的标签。

关键创新：该方法最重要的创新点在于将文本聚类问题重新定义为分类问题，并充分利用了LLM的上下文学习能力。与现有方法相比，该方法无需微调嵌入模型或使用复杂的聚类算法，从而显著降低了计算复杂性和资源需求。

关键设计：论文的关键设计包括：1) Prompt的设计：如何设计有效的prompt，引导LLM生成高质量的候选标签。2) 标签合并策略：如何定义和计算标签之间的语义相似度，并进行有效的合并。3) 分类Prompt的设计：如何设计分类prompt，使LLM能够准确地将文本样本分配到最合适的标签。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，该框架在多个数据集上实现了与最先进的基于嵌入的聚类技术相当或更优越的性能。更重要的是，该方法显著降低了计算复杂性和资源需求，使得在资源受限的环境中进行大规模文本聚类成为可能。具体性能数据和对比基线可在论文中找到。

🎯 应用场景

该研究成果可广泛应用于各种需要文本聚类的场景，例如新闻主题分类、客户反馈分析、社交媒体内容组织等。该方法降低了文本聚类的计算成本和领域适配难度，使得LLM能够更便捷地应用于实际业务中，具有重要的应用价值和潜力。

📄 摘要（原文）

Text clustering serves as a fundamental technique for organizing and interpreting unstructured textual data, particularly in contexts where manual annotation is prohibitively costly. With the rapid advancement of Large Language Models (LLMs) and their demonstrated effectiveness across a broad spectrum of NLP tasks, an emerging body of research has begun to explore their potential in the domain of text clustering. However, existing LLM-based approaches still rely on fine-tuned embedding models and sophisticated similarity metrics, rendering them computationally intensive and necessitating domain-specific adaptation. To address these limitations, we propose a novel framework that reframes text clustering as a classification task by harnessing the in-context learning capabilities of LLMs. Our framework eliminates the need for fine-tuning embedding models or intricate clustering algorithms. It comprises two key steps: first, the LLM is prompted to generate a set of candidate labels based on the dataset and then merges semantically similar labels; second, it assigns the most appropriate label to each text sample. By leveraging the advanced natural language understanding and generalization capabilities of LLMs, the proposed approach enables effective clustering with minimal human intervention. Experimental results on diverse datasets demonstrate that our framework achieves comparable or superior performance to state-of-the-art embedding-based clustering techniques, while significantly reducing computational complexity and resource requirements. These findings underscore the transformative potential of LLMs in simplifying and enhancing text clustering tasks. We make our code available to the public for utilization at https://github.com/ECNU-Text-Computing/Text-Clustering-via-LLM. We also provide the supplementary Appendix within the repository.