SCCL-DT: Semantic-Conflict-Aware Contrastive Learning with Dual-Rule Teacher Distillation for Zero-Shot Chest X-Ray Diagnosis

📄 arXiv: 2610.22094v1 📥 PDF

作者: Ting Liu, Haoran Lai, HaobinChen, Ming Liu, S Kevin Zhou

分类: cs.CV

发布日期: 2026-10-15

备注: 17 pages, 4 figures, includes supplementary material

💡 一句话要点

提出SCCL-DT以解决胸部X光零-shot诊断中的语义冲突问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 对比学习 零-shot学习 胸部X光 语义冲突 医疗影像 深度学习 蒸馏训练

📋 核心要点

  1. 现有对比学习方法将所有非对角图像-报告对视为负样本，导致语义冲突和假阴性监督。
  2. 提出语义冲突感知对比学习（SCCL），通过EMA统计跟踪相似性分布并自适应调整阈值。
  3. SCCL-DT在五个胸部X光基准测试中实现了0.850的平均零-shot AUC，超越了最强基线0.837的表现。

📝 摘要（中文）

对比视觉-语言预训练支持零-shot胸部X光诊断，但标准目标将批次中的每个非对角图像-报告对视为负样本。在放射学中，患者间的重复发现意味着实例不匹配并不一定表示语义不兼容，这导致了我们称之为语义冲突的假阴性监督。我们提出了语义冲突感知对比学习（SCCL），通过指数移动平均（EMA）统计跟踪模态特定的相似性分布，推导自适应阈值，并在softmax归一化之前对标记候选进行硬掩蔽。SCCL-DT在五个公共胸部X光基准测试中实现了0.850的平均零-shot AUC，相较于最强基线的0.837有所提升。

🔬 方法详解

问题定义：论文旨在解决在胸部X光零-shot诊断中，现有对比学习方法因将所有非对角图像-报告对视为负样本而导致的语义冲突问题。这种处理方式可能引入假阴性监督，影响模型性能。

核心思路：论文提出的SCCL方法通过跟踪模态特定的相似性分布，利用EMA统计来推导自适应阈值，并在softmax归一化之前对标记的候选进行硬掩蔽，从而减少语义冲突的影响。

技术框架：整体架构包括两个主要模块：SCCL教师和学生模型SCCL-DT。SCCL教师使用包容性（OR）和共识（AND）规则定义，进行双向跨模态排名，最终通过标准蒸馏整合为一个可部署的学生模型。

关键创新：最重要的创新在于引入了语义冲突感知机制，通过动态调整阈值和硬掩蔽策略，显著提升了对比学习的有效性。这一方法与传统的静态阈值方法有本质区别。

关键设计：在设计中，使用EMA统计来跟踪相似性分布，确保阈值的自适应性。此外，采用了双向跨模态排名和标准蒸馏技术，以提高模型的整体性能和稳定性。实验中还将对比学习的损失函数进行了优化，以适应新的训练策略。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在五个公共胸部X光基准测试中，SCCL-DT达到了0.850的平均零-shot AUC，相较于最强基线的0.837提升了1.5%。这一结果表明，SCCL-DT在处理语义冲突方面具有显著优势，能够更好地支持临床诊断。

🎯 应用场景

该研究的潜在应用领域包括医疗影像分析、辅助诊断系统以及智能医疗平台。通过提高胸部X光的诊断准确性，能够帮助医生更有效地识别疾病，提升患者的治疗效果。未来，该方法可能扩展到其他医学影像领域，具有广泛的实际价值和影响力。

📄 摘要（原文）

Contrastive vision-language pre-training supports zero-shot chest X-ray diagnosis, but standard objectives treat every off-diagonal image-report pair in a batch as a negative. In radiology, recurring findings across patients mean that instance mismatch need not imply semantic incompatibility, creating false-negative supervision that we term a semantic conflict. A training-trace audit shows that pair-observations selected by the online mask used during training are enriched for report-derived finding agreement, although this proxy analysis does not establish clinical equivalence. Fixed thresholds can become miscalibrated as similarity distributions evolve, while soft reweighting leaves residual repulsive gradients. We therefore propose Semantic-Conflict-Aware Contrastive Learning (SCCL), which tracks modality-specific similarity distributions with exponential-moving-average (EMA) statistics, derives adaptive thresholds, and hard-masks flagged candidates before softmax normalization. Inclusive (OR) and consensus (AND) rules define two SCCL teachers, whose bidirectional cross-modal rankings are consolidated through standard distillation into a single deployable student, SCCL-DT. Across five public chest X-ray benchmarks, SCCL-DT achieves a mean zero-shot AUC of $0.850$, compared with $0.837$ for the strongest evaluated baseline in our comparison. Code will be made publicly available soon.