Automatic Thematic Indexing of Large Literary Corpora: A Machine Learning Approach to Voltaire's Complete Works
作者: Miguel Arana-Catania, Gillian Pink, Glenn Roe
分类: cs.CL, cs.AI, cs.DL, cs.IR, cs.LG
发布日期: 2026-07-10
备注: 22 pages, 3 figures, 3 tables
💡 一句话要点
提出机器学习方法以实现伏尔泰作品的自动主题索引
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 主题索引 机器学习 多标签分类 伏尔泰作品 自动化处理 自然语言处理 文献检索
📋 核心要点
- 现有的主题索引方法主要依赖人工，效率低且劳动强度大，难以满足大规模文献的需求。
- 论文提出将自动主题索引视为多标签分类问题，利用机器学习模型自动为文本段落分配主题标签。
- 实验结果表明，最佳模型在F1得分上达到0.67，展示了机器学习在主题索引中的潜力和有效性。
📝 摘要（中文）
主题索引是为大型文学和历史文献提供结构化概念标签的重要实践，但目前仍主要依赖人工，工作量巨大。本文探讨了机器学习在自动主题索引中的应用，以伏尔泰的《论风俗与民族精神》和《百科全书问题》为案例，构建多标签分类模型，比较了多种方法，包括编码器模型和经过低秩适应的生成性大语言模型。最佳模型在4位量化配置下，F1得分达到0.67，表明模型预测在语义上有效，尽管与印刷索引存在差异。研究结果对提供大型文学和历史文献的结构化主题访问具有重要意义。
🔬 方法详解
问题定义：本文旨在解决传统主题索引方法的低效和劳动密集性问题，现有方法难以处理大规模文献的主题索引需求。
核心思路：通过将自动主题索引任务转化为多标签分类问题，利用机器学习模型自动为文本段落分配主题标签，减少人工干预。
技术框架：整体架构包括数据预处理、模型选择与训练、模型评估等阶段，采用多种模型进行比较，包括编码器模型和生成性大语言模型。
关键创新：最重要的创新在于使用低秩适应技术对生成性大语言模型进行微调，显著提升了模型在主题索引任务中的表现。
关键设计：模型参数设置涵盖从3亿到120亿参数的多种规模，采用4位量化配置，损失函数设计为适应多标签分类任务，确保模型输出的语义有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，最佳模型在4位量化配置下的F1得分达到0.67，表明模型在主题索引任务中表现优异。与传统人工索引相比，机器学习方法在处理大规模文本时展现出显著的效率提升，具有广泛的应用前景。
🎯 应用场景
该研究的潜在应用领域包括文学研究、历史文献数字化和信息检索等。通过自动化主题索引，可以大幅提升学术研究的效率，降低人工成本，并为研究人员提供更便捷的文献访问方式，推动相关领域的发展。
📄 摘要（原文）
Thematic indexing -- the practice of assigning structured conceptual labels to sections of text -- is essential to scholarly access in large-scale literary and historical editions, yet it remains a largely manual, labour-intensive process. This paper explores the application of machine learning to automatic thematic indexing, using two substantial sub-corpora of the Complete Works of Voltaire as a test case: the Essai sur les mœurs et l'esprit des nations and the Questions sur l'Encyclopédie. The task is framed as a multi-label classification problem, in which a model must assign the set of index entries that a professional indexer would apply to a given page of text. We compare a range of approaches -- from encoder-based models with classification heads to generative large language models (LLMs) fine-tuned via Low-Rank Adaptation (LoRA) -- spanning model sizes from approximately 3 to 120 billion parameters. Our best-performing model, from the Mistral family in a 4-bit quantised configuration, achieves F1 scores of up to 0.67; we argue that these figures represent lower bounds, given the inherent subjectivity of professional indexing and the frequency with which model predictions prove semantically valid despite diverging from the print index. We further evaluate cross-corpus generalisation and conduct a detailed qualitative analysis of model behaviour on literary and rhetorical features of the source texts that prove particularly resistant to automated treatment. Our findings have implications for the broader challenge of providing structured thematic access to large-scale literary and historical corpora.