Beyond ZOH: Advanced Discretization Strategies for Vision Mamba

📄 arXiv: 2604.20606v1 📥 PDF

作者: Fady Ibrahim, Guangjun Liu, Guanghui Wang

分类: cs.CV, cs.AI

发布日期: 2026-04-22

💡 一句话要点

针对Vision Mamba，提出高级离散化策略以提升动态视觉环境下的时间保真度。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: Vision Mamba 状态空间模型 离散化策略 零阶保持 双线性变换 图像分类 语义分割

📋 核心要点

  1. Vision Mamba的ZOH离散化在动态视觉环境中时间保真度不足，限制了模型精度。
  2. 论文系统比较了六种离散化方案，旨在寻找更优的离散化方法以提升Vision Mamba的性能。
  3. 实验结果表明，POL和HOH精度提升显著，BIL在精度和效率之间取得了最佳平衡。

📝 摘要（中文）

Vision Mamba作为一种状态空间模型(SSM)，采用零阶保持(ZOH)离散化方法，该方法假设输入信号在采样瞬间之间保持不变。这种假设降低了动态视觉环境中的时间保真度，并限制了基于SSM的现代视觉模型所能达到的精度。本文对Vision Mamba框架内的六种离散化方案进行了系统且受控的比较：ZOH、一阶保持(FOH)、双线性/Tustin变换(BIL)、多项式插值(POL)、高阶保持(HOH)和四阶Runge-Kutta方法(RK4)。我们在标准视觉基准上评估每种方法，以量化其在图像分类、语义分割和目标检测中的影响。结果表明，POL和HOH在精度方面获得了最大的提升，但代价是更高的训练时计算量。相比之下，BIL在ZOH的基础上提供了持续的改进，且额外开销适中，在精度和效率之间提供了最有利的折衷方案。这些发现阐明了离散化在基于SSM的视觉架构中的关键作用，并为采用BIL作为最先进SSM模型的默认离散化基线提供了经验依据。

🔬 方法详解

问题定义：Vision Mamba等基于状态空间模型（SSM）的视觉模型，通常采用零阶保持（ZOH）进行离散化。ZOH假设输入信号在采样间隔内保持不变，这在静态图像中可能有效，但在动态视觉环境中会引入误差，降低时间保真度，最终限制了模型的性能上限。现有方法未能充分探索更高级的离散化策略，导致SSM在视觉任务中的潜力未被完全挖掘。

核心思路：论文的核心思路是通过系统性地比较不同的离散化方法，找到一种能够在动态视觉环境中更好地保持时间信息，从而提升Vision Mamba性能的离散化策略。通过对多种离散化方法进行实验评估，确定它们在精度、计算复杂度和效率之间的权衡，并为SSM视觉模型选择合适的离散化方法提供指导。

技术框架：该研究的技术框架主要包括以下几个步骤：1) 选择六种具有代表性的离散化方法：ZOH、FOH、BIL、POL、HOH和RK4。2) 将这些离散化方法集成到Vision Mamba框架中。3) 在图像分类、语义分割和目标检测等标准视觉基准上，对不同离散化方法的Vision Mamba模型进行训练和评估。4) 分析实验结果，比较不同离散化方法的性能，并确定最佳的离散化策略。

关键创新：该论文的关键创新在于对多种离散化方法在Vision Mamba框架下的性能进行了系统性的比较和分析。以往的研究主要集中在使用ZOH离散化，而该论文首次全面地评估了其他离散化方法在视觉任务中的效果，并揭示了离散化策略对SSM视觉模型性能的重要影响。此外，论文还提出了BIL作为一种在精度和效率之间取得良好平衡的离散化方案，为未来的SSM视觉模型设计提供了新的思路。

关键设计：论文的关键设计包括：1) 选择了具有不同特点的六种离散化方法，以覆盖不同的精度和计算复杂度范围。2) 在多个标准视觉基准上进行实验，以确保结果的泛化能力。3) 采用统一的Vision Mamba框架，以消除其他因素对离散化方法性能的影响。4) 详细分析了不同离散化方法的计算复杂度，并评估了它们在实际应用中的可行性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，POL和HOH离散化方法在图像分类、语义分割和目标检测任务中取得了最高的精度提升，但计算成本也相应增加。BIL离散化方法在ZOH的基础上实现了持续的性能改进，同时保持了较低的计算开销，在精度和效率之间取得了最佳的平衡。例如，BIL在图像分类任务上相比ZOH有显著提升（具体数值未知）。

🎯 应用场景

该研究成果可广泛应用于各种需要处理动态视觉信息的领域，如视频监控、自动驾驶、机器人导航、增强现实等。通过选择合适的离散化策略，可以提升视觉模型的精度和鲁棒性，从而改善这些应用的用户体验和性能。此外，该研究也为未来SSM视觉模型的设计提供了新的方向，促进了相关技术的发展。

📄 摘要（原文）

Vision Mamba, as a state space model (SSM), employs a zero-order hold (ZOH) discretization, which assumes that input signals remain constant between sampling instants. This assumption degrades temporal fidelity in dynamic visual environments and constrains the attainable accuracy of modern SSM-based vision models. In this paper, we present a systematic and controlled comparison of six discretization schemes instantiated within the Vision Mamba framework: ZOH, first-order hold (FOH), bilinear/Tustin transform (BIL), polynomial interpolation (POL), higher-order hold (HOH), and the fourth-order Runge-Kutta method (RK4). We evaluate each method on standard visual benchmarks to quantify its influence in image classification, semantic segmentation, and object detection. Our results demonstrate that POL and HOH yield the largest gains in accuracy at the cost of higher training-time computation. In contrast, the BIL provides consistent improvements over ZOH with modest additional overhead, offering the most favorable trade-off between precision and efficiency. These findings elucidate the pivotal role of discretization in SSM-based vision architectures and furnish empirically grounded justification for adopting BIL as the default discretization baseline for state-of-the-art SSM models.