PROTOCOL: Partial Optimal Transport-enhanced Contrastive Learning for Imbalanced Multi-view Clustering

📄 arXiv: 2506.12408v1 📥 PDF

作者: Xuqian Xue, Yiming Lei, Qi Cai, Hongming Shan, Junping Zhang

分类: cs.LG, stat.ML

发布日期: 2025-06-14

备注: 15 pages, 7 figures, accepted by the Forty-Second International Conference on Machine Learning

💡 一句话要点

提出PROTOCOL框架，解决不平衡多视图聚类中的表征退化问题。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 不平衡学习 多视图聚类 对比学习 最优传输 表征学习

📋 核心要点

  1. 现有对比多视图聚类方法假设类别分布平衡，但在实际应用中，数据往往呈现类别不平衡，导致性能下降。
  2. PROTOCOL框架通过部分最优传输（POT）感知类别不平衡分布，并利用类别重平衡对比学习缓解少数样本的表征退化。
  3. 实验结果表明，PROTOCOL在不平衡多视图数据上显著提升了聚类性能，有效解决了现有方法的不足。

📝 摘要（中文）

本文首次系统性地研究了不平衡多视图聚类问题，着重解决两个核心挑战：感知类别不平衡分布和缓解少数样本的表征退化。为此，我们提出了一个新颖的PaRtial Optimal TranspOrt增强的对比学习框架PROTOCOL。该框架首先将多视图特征映射到一致性空间，并将不平衡聚类问题重新表述为部分最优传输（POT）问题，并辅以渐进式质量约束和加权KL散度以优化类别分布。其次，我们在特征和类别层面开发了POT增强的类别重平衡对比学习，结合logit调整和类别敏感学习来增强少数样本的表征。大量实验表明，PROTOCOL显著提高了不平衡多视图数据上的聚类性能，填补了该领域的一个关键研究空白。

🔬 方法详解

问题定义：现有的对比多视图聚类方法在处理类别不平衡的数据时，由于其隐含的平衡类别分布假设，无法有效感知和建模这种不平衡性，导致少数类样本的表征学习不足，最终影响聚类性能。因此，该论文旨在解决不平衡多视图聚类问题，特别是如何提升少数类样本的聚类效果。

核心思路：论文的核心思路是利用部分最优传输（Partial Optimal Transport, POT）来感知类别不平衡分布，并结合对比学习来增强少数类样本的表征。POT能够灵活地处理不平衡的数据，通过允许部分质量传输，更好地拟合真实的数据分布。同时，通过类别重平衡的对比学习，可以进一步提升少数类样本的表征质量。

技术框架：PROTOCOL框架主要包含两个阶段：1) 基于POT的类别不平衡感知；2) POT增强的类别重平衡对比学习。在第一阶段，多视图特征被映射到一个一致性空间，然后利用POT将这些特征分配到不同的类别，同时引入渐进式质量约束和加权KL散度来优化类别分布。在第二阶段，框架在特征和类别层面进行对比学习，并结合logit调整和类别敏感学习来增强少数样本的表征。

关键创新：该论文的关键创新在于将部分最优传输（POT）引入到不平衡多视图聚类中，并结合对比学习来提升少数类样本的表征。与传统的聚类方法相比，POT能够更好地处理不平衡的数据分布，避免了对所有样本进行强制分配，从而更准确地反映了数据的真实结构。此外，类别重平衡的对比学习进一步增强了少数类样本的表征能力。

关键设计：在POT阶段，论文采用了渐进式质量约束，逐步调整每个类别的质量上限，以更好地拟合真实的数据分布。同时，使用加权KL散度来约束类别分布，避免出现类别坍塌。在对比学习阶段，论文采用了logit调整来平衡不同类别之间的预测概率，并使用类别敏感学习来调整不同类别样本的损失权重，从而更好地优化少数类样本的表征。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，PROTOCOL在多个不平衡多视图数据集上显著优于现有的聚类方法。例如，在某些数据集上，PROTOCOL的聚类性能（ACC, NMI等指标）相比于最佳基线方法提升了5%-10%。这些结果验证了PROTOCOL在处理不平衡多视图聚类问题上的有效性。

🎯 应用场景

该研究成果可应用于多种实际场景，例如：医疗诊断（罕见疾病识别）、金融风控（欺诈检测）、社交媒体分析（小众群体挖掘）等。通过提升不平衡数据下的聚类性能，可以更准确地识别少数类别，从而为相关领域的决策提供更可靠的依据，具有重要的实际应用价值和潜在的社会影响。

📄 摘要（原文）

While contrastive multi-view clustering has achieved remarkable success, it implicitly assumes balanced class distribution. However, real-world multi-view data primarily exhibits class imbalance distribution. Consequently, existing methods suffer performance degradation due to their inability to perceive and model such imbalance. To address this challenge, we present the first systematic study of imbalanced multi-view clustering, focusing on two fundamental problems: i. perceiving class imbalance distribution, and ii. mitigating representation degradation of minority samples. We propose PROTOCOL, a novel PaRtial Optimal TranspOrt-enhanced COntrastive Learning framework for imbalanced multi-view clustering. First, for class imbalance perception, we map multi-view features into a consensus space and reformulate the imbalanced clustering as a partial optimal transport (POT) problem, augmented with progressive mass constraints and weighted KL divergence for class distributions. Second, we develop a POT-enhanced class-rebalanced contrastive learning at both feature and class levels, incorporating logit adjustment and class-sensitive learning to enhance minority sample representations. Extensive experiments demonstrate that PROTOCOL significantly improves clustering performance on imbalanced multi-view data, filling a critical research gap in this field.