Reddit is all you need: Authorship profiling for Romanian

📄 arXiv: 2410.09907v2 📥 PDF

作者: Ecaterina Ştefănescu, Alexandru-Iulius Jerpelea

分类: cs.CL

发布日期: 2024-10-13 (更新: 2025-03-18)

备注: 10 pages, 5 tables and 1 figure, published and presented at The 19th International Conference on Linguistic Resources and Tools for Natural Language Processing (ConsILR 2024)

💡 一句话要点

提出首个罗马尼亚语作者画像语料库，并探索LLM在该任务上的基线性能。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 作者画像 罗马尼亚语 自然语言处理 社交媒体 Reddit

📋 核心要点

  1. 作者画像旨在根据作者的写作识别其特征，现有方法在罗马尼亚语等低资源语言上缺乏有效的数据集支持。
  2. 论文利用Reddit的subreddit结构，推断用户的人口统计信息和个人特征，构建了一个大规模的罗马尼亚语作者画像语料库。
  3. 通过对LLM进行微调和评估，验证了该语料库在作者画像任务上的有效性，并为未来的研究奠定了基础。

📝 摘要（中文）

本文介绍了一个罗马尼亚语短文本语料库，该语料库标注了作者特征关键词，据我们所知，这是首个此类语料库。为了构建该语料库，我们利用了社交媒体平台Reddit。我们利用其基于主题社区的结构（subreddit结构），该结构提供了关于作者背景的信息。我们基于subreddit和其他线索推断用户的年龄段、就业状况、兴趣和社会倾向等人口统计信息和一些广泛的个人特征。由此，我们获得了从100多个罗马尼亚语subreddit中提取的23k+样本语料库。我们分析了我们的数据集，最后，我们对大型语言模型（LLM）进行了微调和评估，以证明使用该语料库进行作者画像的基线能力，表明需要进一步研究该领域。我们公开发布所有资源。

🔬 方法详解

问题定义：论文旨在解决罗马尼亚语作者画像问题。现有方法缺乏高质量的罗马尼亚语数据集，限制了在该语言上进行作者画像研究的能力。已有的方法通常依赖于人工标注，成本高昂且难以扩展。

核心思路：论文的核心思路是利用Reddit的subreddit结构作为弱监督信号，自动构建大规模的罗马尼亚语作者画像语料库。通过分析用户参与的subreddit，推断用户的年龄、职业、兴趣等信息，从而为每个用户生成相应的标签。

技术框架：整体框架包括以下几个阶段：1) 数据收集：从Reddit上收集罗马尼亚语subreddit中的用户文本数据。2) 用户画像构建：基于用户参与的subreddit，推断用户的年龄、职业、兴趣等信息。3) 数据集构建：将用户文本数据和对应的用户画像标签组合成作者画像数据集。4) 模型训练与评估：使用大型语言模型（LLM）在该数据集上进行微调，并评估其在作者画像任务上的性能。

关键创新：论文的关键创新在于利用Reddit的subreddit结构作为弱监督信号，自动构建大规模的作者画像语料库。这种方法避免了人工标注的成本，并且可以轻松扩展到其他语言和领域。此外，该论文还首次提出了一个罗马尼亚语作者画像数据集，为该领域的研究提供了宝贵资源。

关键设计：论文的关键设计包括：1) Subreddit选择策略：选择与罗马尼亚语相关的subreddit，以确保数据的质量。2) 用户画像推断规则：设计合理的规则，根据用户参与的subreddit推断用户的年龄、职业、兴趣等信息。3) LLM微调策略：选择合适的LLM模型，并采用合适的微调策略，以提高模型在作者画像任务上的性能。具体的参数设置和损失函数等技术细节在论文中未详细描述，属于未知信息。

📊 实验亮点

论文构建了一个包含23k+样本的罗马尼亚语作者画像语料库，并使用LLM在该语料库上进行了基线实验。实验结果表明，LLM在该任务上具有一定的潜力，但仍有很大的提升空间。具体的性能数据和提升幅度在摘要中未明确给出，属于未知信息。

🎯 应用场景

该研究成果可应用于社交媒体内容审核、网络安全、个性化推荐等领域。例如，可以利用作者画像技术识别恶意用户、检测虚假信息、为用户推荐感兴趣的内容。未来，该技术还可以与其他自然语言处理技术相结合，实现更复杂的应用场景。

📄 摘要（原文）

Authorship profiling is the process of identifying an author's characteristics based on their writings. This centuries old problem has become more intriguing especially with recent developments in Natural Language Processing (NLP). In this paper, we introduce a corpus of short texts in the Romanian language, annotated with certain author characteristic keywords; to our knowledge, the first of its kind. In order to do this, we exploit a social media platform called Reddit. We leverage its thematic community-based structure (subreddits structure), which offers information about the author's background. We infer an user's demographic and some broad personal traits, such as age category, employment status, interests, and social orientation based on the subreddit and other cues. We thus obtain a 23k+ samples corpus, extracted from 100+ Romanian subreddits. We analyse our dataset, and finally, we fine-tune and evaluate Large Language Models (LLMs) to prove baselines capabilities for authorship profiling using the corpus, indicating the need for further research in the field. We publicly release all our resources.