Text-Vision Synergistic Token Caching: A Training-Free Framework for Efficient Vision-Language-Action Inference

📄 arXiv: 2609.34319v1 📥 PDF

作者: Qianer Li, Chengjie Zhang, Jingwen Chen, Zanjia Tong, Jiyuan Zhang, Hong Zhang

分类: cs.CV, cs.RO

发布日期: 2026-09-28

💡 一句话要点

提出文本-视觉协同令牌缓存以解决VLA模型高计算成本问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 令牌缓存 文本-视觉协同 机器人控制 推理效率

📋 核心要点

  1. 现有的VLA模型在计算上非常昂贵，且现有的缓存方法未能充分利用文本与视觉之间的协同关系。
  2. 提出的TVCache框架通过文本-视觉信息过滤注意力头，并引入重用层选择机制，优化了视觉定位和缓存资源分配。
  3. 实验结果显示，TVCache在多个基准测试中显著提高了任务成功率，并在计算成本上保持竞争力。

📝 摘要（中文）

视觉-语言-动作（VLA）模型能够实现通用的机器人控制，但计算成本高昂。令牌缓存提供了一种无需训练的加速替代方案。然而，现有的VLA缓存未能充分利用文本-视觉协同这一关键归纳偏置，导致注意力聚合中的头部可靠性和缓存重用中的层级稳定性不足。为此，本文提出了文本-视觉协同令牌缓存（TVCache），通过基于文本-视觉信息焦点过滤注意力头，改善任务相关的视觉定位。同时，引入了基于文本-视觉熵差异的重用层选择机制，以避免缓存不稳定的表示并优化缓存资源分配。大量实验表明，TVCache在多个VLA模型和真实机器人任务中表现出色，能够在相同的令牌保留比下，显著提高任务成功率。

🔬 方法详解

问题定义：本文旨在解决现有VLA模型在推理过程中计算成本高的问题，现有的令牌缓存方法未能充分利用文本与视觉之间的协同关系，导致注意力聚合和缓存重用的效率低下。

核心思路：TVCache通过分析文本-视觉信息的焦点来过滤注意力头，从而改善视觉定位的准确性。同时，采用基于文本-视觉熵差异的重用层选择机制，以确保缓存的稳定性和有效性。

技术框架：TVCache的整体架构包括两个主要模块：注意力头过滤模块和重用层选择模块。前者根据文本-视觉信息的相关性筛选出有效的注意力头，后者则根据熵差异选择合适的层进行缓存重用。

关键创新：TVCache的核心创新在于结合文本-视觉协同信息进行注意力头的选择和层的重用，这一设计显著提升了任务相关的视觉定位精度和缓存的稳定性，与现有方法相比具有本质的区别。

关键设计：在参数设置上，TVCache通过动态调整注意力头的选择标准和重用层的选择策略，以适应不同任务的需求，确保在计算效率和任务成功率之间取得平衡。具体的损失函数和网络结构细节在实验部分进行了详细描述。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在OpenVLA-OFT基准测试中，TVCache在12.5%的令牌保留率下，平均成功率提高了14.5个百分点，同时相较于全令牌推理，FLOPs减少了2.45倍，显示出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括智能机器人、自动驾驶、以及人机交互等场景。通过提高VLA模型的推理效率，TVCache能够在实际应用中降低计算资源的消耗，提升系统的响应速度和准确性，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Vision-Language-Action (VLA) models enable generalizable robotic control but remain computationally expensive. Token caching provides a training-free, plug-and-play acceleration alternative. However, existing VLA caching does not fully exploit a key inductive bias of VLA models: text-vision synergy, wherein textual semantics guide the precise visual grounding of task-relevant regions. In particular, existing designs insufficiently account for head-wise reliability in attention aggregation and layer-wise stability in cache reuse. To address this, we propose Text-Vision Synergistic Token Caching (TVCache), a training-free framework for efficient VLA inference. TVCache filters attention heads based on text-vision information focus to improve task-relevant and physically consistent visual grounding. Concurrently, we introduce a reuse-layer selection mechanism guided by text-vision entropy differences to avoid caching unstable representations and improve cache resource allocation. Extensive experiments across four representative VLA models, two simulation benchmarks, and real-world robotic tasks demonstrate the effectiveness and generality of TVCache. At matched token-retention ratios, TVCache consistently improves task success over existing VLA caching with comparable computational cost. On OpenVLA-OFT, it improves average success by up to 14.5 percentage points over VLA-Cache at 12.5% retention while reducing FLOPs by 2.45x relative to full-token inference.