A Hybrid CNN--State-Space--Attention Backbone with Joint-Embedding Predictive Pretraining for 12-Lead ECG Classification

📄 arXiv: 2609.29376v1 📥 PDF

作者: Yakoub Bazi, Sarah Aljuhani, Mohamad M. Al Rahhal, Mansour Zuair, Naif Alajlan

分类: cs.CV

发布日期: 2026-09-24

🔗 代码/项目: GITHUB

💡 一句话要点

提出混合CNN-状态空间-注意力骨干网络以解决12导联ECG分类问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 心电图分类 深度学习 卷积神经网络 状态空间模型 自注意力机制 迁移学习 无标签数据 联合嵌入预测

📋 核心要点

  1. 现有的12导联ECG分类方法难以在单一架构中有效整合局部波形、长时间动态和跨导联依赖性。
  2. 本文提出了一种混合CNN-状态空间-注意力骨干网络，结合卷积、状态空间和自注意力机制以捕捉多层次特征。
  3. 在CPSC2018、Chapman-Shaoxing和PTB-XL数据集上的实验表明，该方法在紧凑参数预算下实现了强大的分类性能，尤其在少标签设置下表现更佳。

📝 摘要（中文）

自动化的12导联心电图（ECG）分类需要有效地捕捉局部波形形态、长时间动态和跨导联依赖关系，但在单一高效架构中整合这些特性仍然具有挑战性。本文提出了一种混合CNN-状态空间-注意力骨干网络用于12导联ECG分类。该方法通过卷积干预进行早期波形标记和时间缩减，混合状态空间和深度卷积块建模时间动态和局部形态，最后通过自注意力阶段实现全局标记交互。为了改善无标签数据的迁移，我们进一步开发了ECG导向的联合嵌入预测预训练框架。实验结果表明，该骨干网络在紧凑参数预算下提供了强大的监督基线，JEPA预训练在减少标签设置下进一步提升了迁移效果。

🔬 方法详解

问题定义：本文旨在解决12导联ECG分类中对局部波形、长时间动态和跨导联依赖性的有效整合问题。现有方法往往无法在单一架构中兼顾这些特性，导致分类性能不足。

核心思路：提出的混合CNN-状态空间-注意力骨干网络通过结合卷积、状态空间模型和自注意力机制，旨在有效捕捉多层次的ECG特征，从而提升分类准确性。

技术框架：整体架构包括三个主要模块：卷积干预用于早期波形标记和时间缩减，混合状态空间和深度卷积块用于建模时间动态和局部形态，最后通过自注意力阶段实现全局标记交互。

关键创新：最重要的创新在于引入了联合嵌入预测预训练（JEPA）框架，该框架通过在潜在时间分辨率上采样掩码并将其投影回波形域，避免了传统方法中对波形重建的需求。

关键设计：在网络设计中，采用了深度卷积块和状态空间模块的混合结构，损失函数设计为适应ECG特征的预测，确保了模型在紧凑参数预算下的高效性。实验中使用了约35万条无标签CODE-15录音进行预训练，进一步提升了模型的迁移能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在CPSC2018、Chapman-Shaoxing和PTB-XL数据集上的实验结果显示，提出的骨干网络在紧凑参数预算下实现了强大的分类性能，JEPA预训练在少标签设置下的迁移效果显著提升，尤其在全微调和基于LoRA的适应中表现优异。

🎯 应用场景

该研究的潜在应用领域包括医疗健康监测、心脏病诊断和远程医疗等。通过提高12导联ECG分类的准确性和效率，能够为医生提供更为可靠的辅助决策支持，进而改善患者的治疗效果和生活质量。未来，该方法有望推广至其他生物信号的自动分类和分析。

📄 摘要（原文）

Automatic 12-lead electrocardiogram (ECG) classification requires representations that jointly capture local waveform morphology, long-range temporal dynamics, and cross-lead dependencies, yet integrating these properties within a single efficient architecture remains challenging. This paper introduces a hybrid CNN-SSM-Attention backbone for 12-lead ECG classification. A convolutional stem performs early waveform tokenization and temporal reduction, mixed state-space and depthwise-convolutional blocks model temporal dynamics and local morphology, and a late self-attention stage enables global token interaction at reduced resolution. To improve transfer from unlabeled data, we further develop an ECG-oriented Joint-Embedding Predictive Pretraining (JEPA) framework. Unlike ViT-based JEPA methods that mask patch tokens before the encoder, the proposed method samples span masks at the latent temporal resolution and projects them back to the waveform domain, then predicts clean latent targets from a momentum encoder without waveform reconstruction. Experiments on CPSC2018, Chapman-Shaoxing, and PTB-XL, with pretraining on approximately 350K unlabeled CODE-15 recordings, show that the proposed backbone provides strong supervised baselines under a compact parameter budget. JEPA pretraining further improves transfer, particularly in reduced-label settings and under both full fine-tuning and LoRA-based adaptation. Code: https://github.com/yakoubbazi/Hybrid_ECG_Jepa