X-VMamba: Explainable Vision Mamba
作者: Mohamed A. Mabrok, Yalda Zafari
分类: cs.CV, cs.LG, math.DS
发布日期: 2025-11-16
💡 一句话要点
X-VMamba：基于可控性的Vision Mamba可解释性框架，应用于医学影像
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: Vision Mamba 可解释性 状态空间模型 医学影像 可控性分析
📋 核心要点
- Vision SSMs缺乏透明的注意力机制，难以理解其空间信息处理方式，阻碍了模型优化与信任。
- 提出基于可控性的可解释性框架，通过雅可比矩阵和格拉姆矩阵量化输入对SSM内部状态的影响。
- 实验表明SSM实现了分层特征细化，从低级纹理到临床意义模式，揭示了领域特定可控性签名。
📝 摘要（中文）
本文提出了一种基于可控性的可解释性框架，用于理解Vision SSMs（特别是Mamba架构）如何处理空间信息。由于缺乏类似注意力机制的透明性，理解Vision SSMs一直具有挑战性。该框架通过量化输入序列的不同部分（tokens或patches）如何影响SSMs的内部状态动态来解决这个问题。论文提出了两种互补的方法：一种基于雅可比矩阵的方法，适用于任何SSM架构，通过完整的状态传播链测量影响；另一种基于格拉姆矩阵的方法，适用于对角SSM，通过闭式解析解实现更高的速度。这两种方法都在单次前向传播中以线性复杂度运行，无需架构修改或超参数调整。通过在三种不同的医学成像模式上的实验验证了该框架，表明SSM自然地实现了分层特征细化，从早期层中的扩散低级纹理到更深层中聚焦的、具有临床意义的模式。分析揭示了与诊断标准对齐的特定领域的可控性签名、网络层次结构中的渐进式空间选择性以及扫描策略对注意力模式的重大影响。除了医学成像之外，还阐述了跨越计算机视觉、自然语言处理和跨领域任务的应用。该框架将可控性分析确立为所有领域中SSM的统一、基础的可解释性范例。代码和分析工具将在发布后提供。
🔬 方法详解
问题定义：现有的Vision SSMs，特别是Mamba架构，在序列建模任务中表现出色，但由于缺乏类似注意力机制的透明性，难以理解其如何处理空间信息。这使得模型的可解释性较差，难以进行针对性的优化和调试，也降低了用户对模型的信任度。因此，如何提升Vision SSMs的可解释性是一个重要的研究问题。
核心思路：论文的核心思路是通过量化输入序列的不同部分（tokens或patches）对SSM内部状态动态的影响，来揭示SSM处理空间信息的机制。具体来说，论文提出了基于可控性的可解释性框架，通过计算输入对状态的“控制力”，来衡量输入对模型行为的影响。这种方法不需要修改模型结构或引入额外的训练，可以在单次前向传播中完成。
技术框架：该框架包含两个主要组成部分：1) 基于雅可比矩阵的方法：适用于任何SSM架构，通过计算状态传播链的雅可比矩阵来衡量输入的影响。雅可比矩阵反映了输入微小变化对状态的影响程度。2) 基于格拉姆矩阵的方法：适用于对角SSM，利用闭式解析解加速计算。格拉姆矩阵可以更高效地计算输入对状态的影响，特别是在对角SSM中。两种方法都旨在量化输入序列不同部分对SSM内部状态的影响。
关键创新：该论文的关键创新在于提出了基于可控性的可解释性框架，将控制理论中的可控性概念引入到Vision SSMs的可解释性分析中。与传统的注意力机制不同，该框架不需要修改模型结构，可以直接量化输入对状态的影响，从而更直接地揭示模型的行为。此外，论文还提出了两种互补的计算方法，分别适用于不同类型的SSM架构，提高了框架的适用性。
关键设计：该框架的关键设计包括：1) 使用雅可比矩阵或格拉姆矩阵来量化输入对状态的影响。2) 两种互补的计算方法，分别适用于不同类型的SSM架构。3) 在单次前向传播中完成计算，无需修改模型结构或引入额外的训练。4) 通过实验验证了该框架在医学影像领域的有效性，并揭示了SSM在不同层级的特征提取行为。
📊 实验亮点
实验结果表明，SSM在医学影像领域能够实现分层特征细化，从早期层中的扩散低级纹理到更深层中聚焦的、具有临床意义的模式。分析揭示了与诊断标准对齐的特定领域的可控性签名，以及网络层次结构中的渐进式空间选择性。此外，实验还表明扫描策略对注意力模式有重大影响，为优化扫描策略提供了依据。
🎯 应用场景
该研究成果可广泛应用于计算机视觉、自然语言处理和跨领域任务中，尤其是在需要高可解释性的场景，如医疗诊断、金融风控等。通过理解SSM如何处理输入信息，可以提升模型的可靠性和可信度，并为模型优化提供指导。未来，该框架可以扩展到其他类型的序列模型，并与其他可解释性方法相结合，进一步提升模型的可解释性。
📄 摘要（原文）
State Space Models (SSMs), particularly the Mamba architecture, have recently emerged as powerful alternatives to Transformers for sequence modeling, offering linear computational complexity while achieving competitive performance. Yet, despite their effectiveness, understanding how these Vision SSMs process spatial information remains challenging due to the lack of transparent, attention-like mechanisms. To address this gap, we introduce a controllability-based interpretability framework that quantifies how different parts of the input sequence (tokens or patches) influence the internal state dynamics of SSMs. We propose two complementary formulations: a Jacobian-based method applicable to any SSM architecture that measures influence through the full chain of state propagation, and a Gramian-based approach for diagonal SSMs that achieves superior speed through closed-form analytical solutions. Both methods operate in a single forward pass with linear complexity, requiring no architectural modifications or hyperparameter tuning. We validate our framework through experiments on three diverse medical imaging modalities, demonstrating that SSMs naturally implement hierarchical feature refinement from diffuse low-level textures in early layers to focused, clinically meaningful patterns in deeper layers. Our analysis reveals domain-specific controllability signatures aligned with diagnostic criteria, progressive spatial selectivity across the network hierarchy, and the substantial influence of scanning strategies on attention patterns. Beyond medical imaging, we articulate applications spanning computer vision, natural language processing, and cross-domain tasks. Our framework establishes controllability analysis as a unified, foundational interpretability paradigm for SSMs across all domains. Code and analysis tools will be made available upon publication