When Should a Model Change Its Mind? An Energy-Based Theory and Regularizer for Concept Drift in Electrocardiogram (ECG) Signals
作者: Timothy Oladunni, Blessing Ojeme, Kyndal Maclin, Clyde Baidoo
分类: cs.LG
发布日期: 2026-02-28
💡 一句话要点
提出基于能量的生理信号概念漂移理论与正则化方法,提升心电信号模型稳定性。
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 概念漂移 生理信号 心电信号 能量守恒 表示学习 多模态融合 鲁棒性
📋 核心要点
- 现有概念漂移框架主要基于分布,缺乏对生理信号能量波动下模型内部表征移动量的指导。
- 提出生理能量守恒理论(PECT)和能量约束表示学习(ECRL),通过能量一致性约束提升模型对概念漂移的鲁棒性。
- 在多模态心电信号上的实验表明,该方法能显著提高模型在扰动数据下的准确率,并降低表示漂移。
📝 摘要(中文)
针对动态生理信号模型区分良性变异与真实概念漂移的难题,本文提出了生理能量守恒理论(PECT),这是一个基于能量的动态信号概念稳定性框架。PECT认为,在虚拟漂移下,归一化的潜在空间位移应与归一化的信号能量变化成比例,而持续违反这种比例关系则表明存在真实的概念漂移。我们通过能量约束表示学习(ECRL)来实现这一原则,ECRL是一种轻量级正则化器,它惩罚能量不一致的潜在空间移动,而无需修改编码器架构或增加推理时间成本。虽然PECT是为一般动态信号而设计的,但我们将其应用于多模态心电图(ECG),并在七个单模态和混合模型上进行了评估。实验表明,在最强的三模态混合模型(1D+2D+Transformer)中,干净数据的准确率基本保持不变(96.0%到94.1%),而扰动数据的准确率显著提高(72.6%到85.5%),融合表示漂移减少了45%以上。在所有架构中都观察到类似的趋势,这为PECT作为控制连续生理信号概念稳定性的能量漂移定律提供了经验证据。
🔬 方法详解
问题定义:现有深度模型在处理动态生理信号时,容易将信号中幅度、频率或形态上的无害变化误判为概念漂移,导致预测不稳定,尤其是在多模态融合场景下。现有概念漂移框架主要关注数据分布的变化,而忽略了生理信号内在的能量变化规律,缺乏对模型内部表征稳定性的约束。
核心思路:论文的核心思路是基于生理能量守恒理论(PECT),认为在没有真实概念漂移的情况下,信号的能量变化应该与模型内部表征的变化成比例。如果模型表征的变化与信号能量的变化不一致,则表明可能发生了真实的概念漂移。通过约束模型表征的变化与信号能量变化之间的关系,可以提高模型对概念漂移的鲁棒性。
技术框架:论文提出了能量约束表示学习(ECRL)框架,该框架包含以下主要步骤:1) 使用编码器提取生理信号的潜在表示;2) 计算信号的能量变化;3) 计算潜在表示的变化;4) 使用ECRL正则化器惩罚能量不一致的潜在表示移动。该框架可以应用于各种不同的编码器架构,并且不会增加推理时间成本。
关键创新:论文最重要的技术创新点在于提出了生理能量守恒理论(PECT),并将其应用于概念漂移检测。PECT将生理信号的能量变化与模型内部表征的变化联系起来,为概念漂移检测提供了一种新的视角。与现有方法相比,PECT更加关注生理信号的内在特性,能够更好地处理生理信号中的概念漂移问题。
关键设计:ECRL正则化器的关键设计在于如何衡量能量不一致的潜在表示移动。论文中使用了一种基于余弦相似度的损失函数来衡量潜在表示变化与能量变化之间的差异。此外,论文还对信号能量进行了归一化处理,以消除信号幅度对能量计算的影响。正则化系数λ控制了ECRL正则化器的强度,需要根据具体任务进行调整。
📊 实验亮点
在多模态心电信号实验中,最强的三模态混合模型(1D+2D+Transformer)在干净数据上的准确率从96.0%降至94.1%,基本保持不变,而在扰动数据上的准确率从72.6%显著提高至85.5%,融合表示漂移减少了超过45%。这些结果表明,PECT能够有效提高模型对概念漂移的鲁棒性。
🎯 应用场景
该研究成果可应用于各种需要处理动态生理信号的场景,如远程医疗、智能健康监测、疾病预警等。通过提高模型对概念漂移的鲁棒性,可以减少误报和漏报,提高医疗诊断的准确性和可靠性,从而改善患者的健康状况。
📄 摘要(原文)
Models operating on dynamic physiologic signals must distinguish benign, label-preserving variability from true concept change. Existing concept-drift frameworks are largely distributional and provide no principled guidance on how much a model's internal representation may move when the underlying signal undergoes physiologically plausible fluctuations in energy. As a result, deep models often misinterpret harmless changes in amplitude, rate, or morphology as concept drift, yielding unstable predictions, particularly in multimodal fusion settings.This study introduces Physiologic Energy Conservation Theory (PECT), an energy-based framework for concept stability in dynamic signals. PECT posits that under virtual drift, normalized latent displacement should scale proportionally with normalized signal energy change, while persistent violations of this proportionality indicate real concept drift. We operationalize this principle through Energy-Constrained Representation Learning (ECRL), a lightweight regularizer that penalizes energy-inconsistent latent movement without modifying encoder architectures or adding inference-time cost.Although PECT is formulated for dynamic signals in general, we instantiate and evaluate it on multimodal ECG across seven unimodal and hybrid models. Experiments show that in the strongest trimodal hybrid (1D+2D+Transformer), clean accuracy is largely preserved (96.0% to 94.1%), while perturbed accuracy improves substantially (72.6% to 85.5%) and fused representation drift decreases by over 45%. Similar trends are observed across all architectures, providing empirical evidence that PECT functions as an energy-drift law governing concept stability in continuous physiologic signals.