SYNAPSE-G: Bridging Large Language Models and Graph Learning for Rare Event Classification

📄 arXiv: 2508.09544v1 📥 PDF

作者: Sasan Tavakkol, Lin Chen, Max Springer, Abigail Schantz, Blaž Bratanič, Vincent Cohen-Addad, MohammadHossein Bateni

分类: cs.LG

发布日期: 2025-08-13

💡 一句话要点

提出SYNAPSE-G以解决稀有事件分类中的数据稀缺问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 稀有事件分类 合成数据 大型语言模型 半监督学习 图学习

📋 核心要点

  1. 稀有事件分类面临标注数据稀缺的问题，现有方法难以有效训练模型。
  2. SYNAPSE-G通过利用大型语言模型生成合成数据，结合半监督学习来解决冷启动问题。
  3. 在不平衡的SST2和MHS数据集上，SYNAPSE-G在找到正标签方面表现优异，超越了多个基线方法。

📝 摘要（中文）

稀有事件的标注数据稀缺严重阻碍了有效机器学习模型的训练。本文提出了SYNAPSE-G（通过图扩展进行正样本合成增强），这是一个新颖的管道，利用大型语言模型（LLMs）生成稀有事件分类的合成训练数据，从而解决冷启动问题。这些合成数据作为种子，进行半监督标签传播，构建相似性图，识别候选正例，随后由人类或LLM进行标注。扩展后的数据集用于训练或微调分类器。我们理论分析了合成数据的质量（有效性和多样性）如何影响方法的精度和召回率。实验结果表明，SYNAPSE-G在寻找正标签方面的有效性超过了包括最近邻搜索在内的基线方法。

🔬 方法详解

问题定义：本文旨在解决稀有事件分类中标注数据稀缺的问题。现有方法在处理冷启动问题时，往往无法有效利用有限的标注数据，导致模型性能不足。

核心思路：SYNAPSE-G的核心思路是利用大型语言模型生成合成训练数据，作为正样本的种子，通过半监督学习方法扩展数据集，从而提高分类器的性能。这样的设计旨在克服数据稀缺带来的挑战。

技术框架：整体架构包括三个主要模块：首先，利用LLM生成合成数据；其次，构建相似性图并进行半监督标签传播；最后，使用扩展后的数据集训练或微调分类器。

关键创新：SYNAPSE-G的主要创新在于将大型语言模型与图学习相结合，生成合成数据并通过标签传播识别正样本。这一方法与传统的仅依赖标注数据的方式有本质区别。

关键设计：在技术细节上，SYNAPSE-G关注合成数据的有效性和多样性，设计了相应的损失函数以优化标签传播过程，并在网络结构上采用了适合图学习的模型。具体参数设置和网络架构在实验部分进行了详细描述。

📊 实验亮点

在不平衡的SST2和MHS数据集上，SYNAPSE-G在找到正标签的能力上显著优于基线方法，包括最近邻搜索，具体提升幅度达到XX%（具体数据待补充）。

🎯 应用场景

该研究的潜在应用领域包括医疗诊断、金融欺诈检测和自然灾害预测等稀有事件分类任务。通过生成合成数据，SYNAPSE-G能够有效提升模型在数据稀缺情况下的性能，具有重要的实际价值和未来影响。

📄 摘要（原文）

Scarcity of labeled data, especially for rare events, hinders training effective machine learning models. This paper proposes SYNAPSE-G (Synthetic Augmentation for Positive Sampling via Expansion on Graphs), a novel pipeline leveraging Large Language Models (LLMs) to generate synthetic training data for rare event classification, addressing the cold-start problem. This synthetic data serve as seeds for semi-supervised label propagation on a similarity graph constructed between the seeds and a large unlabeled dataset. This identifies candidate positive examples, subsequently labeled by an oracle (human or LLM). The expanded dataset then trains/fine-tunes a classifier. We theoretically analyze how the quality (validity and diversity) of the synthetic data impacts the precision and recall of our method. Experiments on the imbalanced SST2 and MHS datasets demonstrate SYNAPSE-G's effectiveness in finding positive labels, outperforming baselines including nearest neighbor search.