DyQ-VLA: Temporal-Dynamic-Aware Quantization for Embodied Vision-Language-Action Models

📄 arXiv: 2603.07904v1 📥 PDF

作者: Zihao Zheng, Hangyu Cao, Sicheng Tian, Jiayu Chen, Maoliang Li, Xinhao Sun, Hailong Zou, Zhaobo Zhang, Xuanzhe Liu, Donggang Cao, Hong Mei, Xiang Chen

分类: cs.LG, cs.RO

发布日期: 2026-03-09

💡 一句话要点

DyQ-VLA：面向具身视觉-语言-动作模型的时间动态感知量化方法

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 具身智能 视觉-语言-动作模型 模型量化 动态量化 边缘部署

📋 核心要点

  1. VLA模型推理开销大，边缘部署受限，静态量化无法适应VLA模型时间动态变化的敏感性。
  2. DyQ-VLA通过实时运动学代理触发位宽切换，并使用运动学引导模块动态分配最佳位宽。
  3. 实验表明，DyQ-VLA在保持性能的同时，显著降低了内存占用，并实现了模拟和真实环境的加速。

📝 摘要（中文）

视觉-语言-动作（VLA）模型在具身智能领域占据主导地位，但受到推理开销的限制。模型量化可以缓解边缘部署的瓶颈，但静态量化方法对于VLA模型来说并非最优，原因在于两个关键挑战：(1)时间动态敏感性，固定精度忽略了不同阶段的误差容忍度，浪费了资源；(2)实时分配，识别实时敏感性以指导比特分配的问题尚未解决。为了应对这些挑战，我们提出了DyQ-VLA，一个用于VLA模型的动态量化框架。具体来说，一种敏感性感知切换策略利用实时运动学代理来触发位宽切换，而一种运动学引导模块动态地分配最佳位宽。实验表明，DyQ-VLA仅需原始内存占用量的30.9%，同时保持了99.5%的原始性能，实现了1.49倍的模拟加速和高达1.43倍的真实世界加速。

🔬 方法详解

问题定义：现有VLA模型在边缘设备部署时面临推理开销大的问题，传统的静态量化方法无法有效解决。静态量化对所有层和所有时间步都使用固定的量化精度，忽略了VLA模型在不同阶段对量化误差的容忍度不同，导致资源浪费。此外，如何实时地确定模型对量化误差的敏感性，并以此指导比特分配，也是一个尚未解决的难题。

核心思路：DyQ-VLA的核心思路是根据VLA模型在不同时间步的动态特性，自适应地调整量化精度。通过引入实时运动学代理来感知模型的敏感性，并利用这些信息动态地分配比特，从而在保证性能的前提下，最大限度地降低内存占用和计算开销。

技术框架：DyQ-VLA框架主要包含两个核心模块：(1) 敏感性感知切换策略：该模块利用实时运动学代理（例如关节角度、速度等）来表征模型的动态状态，并根据这些状态触发位宽切换。当模型对量化误差更敏感时，切换到更高的精度；反之，切换到更低的精度。(2) 运动学引导模块：该模块根据运动学代理的信息，动态地分配最佳的比特宽度。它学习一个映射关系，将运动学代理映射到不同的比特宽度，从而实现精细化的量化控制。

关键创新：DyQ-VLA的关键创新在于其动态量化策略，它能够根据VLA模型的时间动态特性，自适应地调整量化精度。与传统的静态量化方法相比，DyQ-VLA能够更有效地利用资源，在保证性能的同时，显著降低内存占用和计算开销。此外，利用实时运动学代理来感知模型敏感性，并以此指导比特分配，也是一个重要的创新点。

关键设计：DyQ-VLA的关键设计包括：(1) 运动学代理的选择：选择能够有效表征模型动态状态的运动学参数至关重要。论文中可能使用了关节角度、速度、加速度等参数。(2) 敏感性阈值的设定：需要设定合适的阈值来触发位宽切换。阈值过高会导致频繁切换，增加开销；阈值过低则无法及时调整精度。(3) 运动学引导模块的网络结构和损失函数：该模块需要学习一个有效的映射关系，将运动学代理映射到不同的比特宽度。可以使用神经网络来学习该映射关系，并设计合适的损失函数来优化网络参数。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，DyQ-VLA在保持99.5%原始性能的同时，仅需原始内存占用量的30.9%。在模拟环境中，DyQ-VLA实现了1.49倍的加速，在真实世界环境中，实现了高达1.43倍的加速。这些结果表明，DyQ-VLA能够显著降低VLA模型的资源消耗，并提高其推理速度。

🎯 应用场景

DyQ-VLA适用于各种需要部署在资源受限的边缘设备上的具身智能应用，例如机器人导航、操作和人机交互。通过降低模型大小和推理延迟，可以提高机器人在真实环境中的响应速度和效率，使其能够更好地适应动态变化的环境，并完成复杂的任务。该技术还有潜力应用于自动驾驶、智能家居等领域。

📄 摘要（原文）

Vision-Language-Action (VLA) models are dominant in embodied intelligence but are constrained by inference overheads. While model quantization alleviates these bottlenecks for edge deployment, static quantization approaches remain suboptimal for VLAs due to two critical challenges: (1) Temporal-dynamic sensitivity, where fixed precision wastes resources by ignoring stage-varying error tolerances; and (2) Real-time allocation, where identifying real-time sensitivity to guide bit allocation remains unsolved. To address these challenges, we propose DyQ-VLA, a dynamic quantization framework for VLAs. Specifically, a sensitivity-aware switching strategy leverages real-time kinematic proxies to trigger the bit-width switch, while a kinematic-guided module dynamically allocates the optimal bit-width. Experiments show that DyQ-VLA requires only 30.9% of the original memory footprint while maintaining 99.5% of its original performance, achieving 1.49x simulation and up to 1.43x real-world speedups.