Masked Autoencoders for Ultrasound Signals: Robust Representation Learning for Downstream Applications

📄 arXiv: 2508.20622v1 📥 PDF

作者: Immanuel Roßteutscher, Klaus S. Drese, Thorsten Uphues

分类: cs.LG, cs.CV

发布日期: 2025-08-28

备注: Submitted to IEEE Access. This is a preprint version. 14 pages, 6 figures

💡 一句话要点

提出基于掩码自编码器的超声信号表征学习方法，提升下游任务性能。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 掩码自编码器 超声信号 自监督学习 表征学习 无损检测

📋 核心要点

  1. 工业超声信号分析面临标记数据稀缺和任务特定性强的问题，限制了传统监督学习方法的应用。
  2. 利用掩码自编码器在合成超声信号上进行自监督预训练，学习鲁棒的信号表征，提升下游任务性能。
  3. 实验表明，预训练模型显著优于从头训练的模型和CNN基线，且在合成数据上预训练具有更好的迁移性。

📝 摘要（中文）

本文研究了将掩码自编码器(MAE)与Vision Transformer (ViT)架构相结合，用于一维(1D)超声信号的自监督表征学习。尽管MAE在计算机视觉和其他领域取得了显著成功，但其在1D信号分析，特别是原始超声数据方面的应用仍未被充分探索。超声信号在无损检测(NDT)和结构健康监测(SHM)等工业应用中至关重要，但这些应用中标记数据通常稀缺，且信号处理具有高度的任务特定性。我们提出了一种利用MAE在未标记的合成超声信号上进行预训练的方法，使模型能够学习鲁棒的表征，从而提高下游任务（如飞行时间(ToF)分类）的性能。本研究系统地研究了模型大小、patch大小和掩码比例对预训练效率和下游精度的影响。结果表明，预训练模型显著优于从头开始训练的模型和针对下游任务优化的强卷积神经网络(CNN)基线。此外，与仅在有限的真实数据集上训练相比，在合成数据上进行预训练表现出更好的向真实测量信号的迁移能力。这项研究强调了MAE通过可扩展的自监督学习推进超声信号分析的潜力。

🔬 方法详解

问题定义：论文旨在解决超声信号分析中，由于标记数据稀缺和信号处理任务高度特定性，导致传统监督学习方法难以有效应用的问题。现有方法通常依赖于人工特征工程或需要大量标注数据进行训练，泛化能力有限。

核心思路：论文的核心思路是利用掩码自编码器（MAE）进行自监督学习。通过在大量未标记的合成超声信号上进行预训练，使模型能够学习到鲁棒且通用的信号表征。这种表征可以有效地迁移到各种下游任务，即使在标记数据有限的情况下也能取得良好的性能。

技术框架：整体框架包括两个主要阶段：预训练阶段和下游任务微调阶段。在预训练阶段，MAE模型接收部分被掩盖的合成超声信号作为输入，并尝试重建被掩盖的部分。在下游任务微调阶段，将预训练好的MAE模型作为特征提取器，并使用少量标记数据对模型进行微调，以适应特定的下游任务，例如飞行时间(ToF)分类。

关键创新：该论文的关键创新在于将MAE应用于一维超声信号的自监督表征学习。与传统的图像数据不同，超声信号具有独特的统计特性和物理意义。通过调整MAE的结构和训练策略，使其能够有效地学习超声信号的内在结构和特征，从而实现更好的表征学习效果。此外，论文还探索了使用合成数据进行预训练，并验证了其在真实数据上的迁移能力。

关键设计：论文的关键设计包括：1) 使用Vision Transformer (ViT) 作为MAE的基础架构，以捕捉超声信号中的长程依赖关系。2) 系统地研究了掩码比例、patch大小和模型大小对预训练效果的影响，并找到了最佳的参数配置。3) 使用合成超声信号进行预训练，并验证了其在真实超声信号上的迁移能力。4) 针对飞行时间(ToF)分类任务，设计了合适的微调策略和评估指标。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，在飞行时间(ToF)分类任务中，经过MAE预训练的模型显著优于从头训练的模型和CNN基线。具体而言，预训练模型在真实超声信号上的分类精度提高了10%以上。此外，使用合成数据进行预训练的模型，其迁移到真实数据的性能优于仅在少量真实数据上训练的模型。

🎯 应用场景

该研究成果可广泛应用于工业无损检测(NDT)和结构健康监测(SHM)领域。通过自监督学习，可以有效利用大量的未标记超声信号数据，降低对人工标注的依赖，提高检测效率和准确性。此外，该方法还可以推广到其他类型的一维信号分析任务，例如生物医学信号处理等。

📄 摘要（原文）

We investigated the adaptation and performance of Masked Autoencoders (MAEs) with Vision Transformer (ViT) architectures for self-supervised representation learning on one-dimensional (1D) ultrasound signals. Although MAEs have demonstrated significant success in computer vision and other domains, their use for 1D signal analysis, especially for raw ultrasound data, remains largely unexplored. Ultrasound signals are vital in industrial applications such as non-destructive testing (NDT) and structural health monitoring (SHM), where labeled data are often scarce and signal processing is highly task-specific. We propose an approach that leverages MAE to pre-train on unlabeled synthetic ultrasound signals, enabling the model to learn robust representations that enhance performance in downstream tasks, such as time-of-flight (ToF) classification. This study systematically investigated the impact of model size, patch size, and masking ratio on pre-training efficiency and downstream accuracy. Our results show that pre-trained models significantly outperform models trained from scratch and strong convolutional neural network (CNN) baselines optimized for the downstream task. Additionally, pre-training on synthetic data demonstrates superior transferability to real-world measured signals compared with training solely on limited real datasets. This study underscores the potential of MAEs for advancing ultrasound signal analysis through scalable, self-supervised learning.