Label-Consistent Dataset Distillation with Detector-Guided Refinement
作者: Yawen Zou, Guang Li, Zi Wang, Chunzhi Gu, Chao Zhang
分类: cs.CV
发布日期: 2025-07-17
💡 一句话要点
提出检测器引导的标签一致性数据集蒸馏框架，提升合成数据质量。
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 数据集蒸馏 扩散模型 目标检测 标签一致性 图像质量 合成数据 模型压缩
📋 核心要点
- 现有数据集蒸馏方法生成的替代数据集存在标签不一致和结构细节不足的问题，影响下游任务性能。
- 提出一种检测器引导的数据集蒸馏框架，利用预训练检测器识别并优化异常合成样本，保证标签一致性和图像质量。
- 实验结果表明，该方法能够合成高质量、细节丰富的代表性图像，并在验证集上取得了state-of-the-art的性能。
📝 摘要（中文）
数据集蒸馏(DD)旨在生成一个紧凑而信息丰富的替代数据集，使其性能与原始数据集相当，从而减少对存储和计算资源的需求。尽管扩散模型在数据集蒸馏方面取得了显著进展，但生成的替代数据集通常包含标签不一致或结构细节不足的样本，导致下游性能欠佳。为了解决这些问题，我们提出了一个检测器引导的数据集蒸馏框架，该框架显式地利用预训练的检测器来识别和细化异常的合成样本，从而确保标签一致性并提高图像质量。具体而言，使用在原始数据集上训练的检测器模型来识别表现出标签不匹配或分类置信度低的异常图像。对于每个有缺陷的图像，使用以相应图像原型和标签为条件的预训练扩散模型生成多个候选图像。然后，通过联合考虑检测器的置信度得分和与现有合格合成样本的差异性来选择最佳候选图像，从而确保标签准确性和类内多样性。实验结果表明，我们的方法可以合成具有更丰富细节的高质量代表性图像，在验证集上实现最先进的性能。
🔬 方法详解
问题定义：数据集蒸馏旨在用远小于原始数据集的合成数据集，训练出性能接近甚至超过原始数据集的模型。现有的基于扩散模型的数据集蒸馏方法，生成的合成数据存在标签不一致，图像细节不足的问题，导致下游任务性能受限。
核心思路：利用预训练的目标检测器来评估和修正合成图像的质量。通过检测器对合成图像进行置信度评估，识别出标签不一致或质量较差的图像，并利用扩散模型生成候选图像进行替换，从而提高合成数据集的整体质量。
技术框架：该框架主要包含以下几个阶段：1) 使用预训练的目标检测器对初始合成数据集进行评估，识别出异常样本。2) 对于每个异常样本，使用预训练的扩散模型，以图像原型和标签为条件，生成多个候选图像。3) 综合考虑检测器的置信度得分和与现有合格合成样本的差异性，选择最佳候选图像替换原始异常样本。
关键创新：核心创新在于利用预训练的目标检测器作为质量评估器，指导数据集蒸馏过程。与传统的仅依赖生成模型的数据集蒸馏方法相比，该方法能够更有效地识别和修正标签不一致和图像质量差的样本，从而提高合成数据集的质量和下游任务的性能。
关键设计：关键设计包括：1) 使用在原始数据集上训练的目标检测器，确保检测器能够准确评估合成图像的质量。2) 使用预训练的扩散模型生成候选图像，保证生成图像的多样性和真实性。3) 联合考虑检测器的置信度得分和与现有合格合成样本的差异性，平衡标签准确性和类内多样性。具体损失函数和参数设置在论文中有详细描述（未知）。
🖼️ 关键图片
📊 实验亮点
该方法通过检测器引导的数据集蒸馏，能够合成高质量、细节丰富的代表性图像，并在验证集上取得了state-of-the-art的性能。具体性能提升数据在论文中有详细描述（未知），但摘要中明确指出优于现有方法。
🎯 应用场景
该研究成果可应用于资源受限的场景，例如移动设备或嵌入式系统，通过使用蒸馏后的数据集进行模型训练，降低存储和计算成本。此外，该方法还可以用于数据隐私保护，通过合成数据集代替原始数据集进行模型训练，避免泄露敏感信息。未来可以探索将该方法应用于更复杂的数据集和任务。
📄 摘要（原文）
Dataset distillation (DD) aims to generate a compact yet informative dataset that achieves performance comparable to the original dataset, thereby reducing demands on storage and computational resources. Although diffusion models have made significant progress in dataset distillation, the generated surrogate datasets often contain samples with label inconsistencies or insufficient structural detail, leading to suboptimal downstream performance. To address these issues, we propose a detector-guided dataset distillation framework that explicitly leverages a pre-trained detector to identify and refine anomalous synthetic samples, thereby ensuring label consistency and improving image quality. Specifically, a detector model trained on the original dataset is employed to identify anomalous images exhibiting label mismatches or low classification confidence. For each defective image, multiple candidates are generated using a pre-trained diffusion model conditioned on the corresponding image prototype and label. The optimal candidate is then selected by jointly considering the detector's confidence score and dissimilarity to existing qualified synthetic samples, thereby ensuring both label accuracy and intra-class diversity. Experimental results demonstrate that our method can synthesize high-quality representative images with richer details, achieving state-of-the-art performance on the validation set.