Reasoning Without Inference Cost: Latent Semantic Scaffolding for Robot VLA Policies

📄 arXiv: 2609.04893v1 📥 PDF

作者: Andrew Ting Yan Li, Zhuo Li, Zhelin Yang, Zhipeng Dong, Quentin Rouxel, Fei Chen

分类: cs.RO

发布日期: 2026-09-04

💡 一句话要点

提出潜在语义支架以降低机器人VLA策略推理成本

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 因果推理 潜在语义支架 机器人学习 迁移学习

📋 核心要点

  1. 现有的VLA模型在推理时需要额外的计算成本，限制了其在长时间任务中的应用。
  2. 本文提出潜在语义支架（LSS），通过在训练阶段对齐动作标记与推理理由，降低推理时的计算负担。
  3. Dense LSS在训练任务和未见任务上均表现优异，显示出更好的迁移能力和成功率。

📝 摘要（中文）

视觉-语言-动作（VLA）模型通过模仿学习来训练，能够捕捉到应采取的动作，但缺乏因果推理的能力。现有方法在推理时需要生成推理标记或预测未来状态，导致推理成本随时间增加。本文提出潜在语义支架（LSS），在人工示范预训练期间应用辅助损失，将VLA的动作标记表示与物理推理理由的文本嵌入对齐。推理时丢弃该头部，保留未修改的基础策略，零额外成本。研究发现，逐个动作标记与其操作阶段的理由对齐（Dense LSS）相比于单一的池化嵌入（Pooled LSS）能显著提升在未见任务上的迁移表现。

🔬 方法详解

问题定义：本文旨在解决现有VLA模型在推理时的高计算成本问题。当前方法在每一步都需要生成推理标记或预测未来状态，导致在长时间任务中成本不断增加。

核心思路：提出潜在语义支架（LSS），在训练阶段通过辅助损失对齐动作标记与物理推理的文本嵌入，从而在推理时丢弃该对齐头，避免额外的推理成本。

技术框架：整体架构包括两个主要阶段：第一阶段是人类示范的预训练，应用LSS进行对齐；第二阶段是推理阶段，丢弃对齐头，使用未修改的基础策略进行决策。

关键创新：Dense LSS通过逐个动作标记与其操作阶段的理由对齐，显著提升了表示的迁移能力，与传统的池化对齐方法相比，后者容易导致过拟合于训练任务。

关键设计：在LSS中，采用小型投影头进行对齐，损失函数设计为辅助损失，确保在训练阶段有效对齐，同时推理时不增加计算负担。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Dense LSS在训练任务中的成功率最高，且在未见任务上的迁移表现显著优于Pooled LSS。具体而言，Dense LSS在每个操作阶段的分离度约为传统方法的两倍，验证了阶段局部对齐的有效性。

🎯 应用场景

该研究的潜在应用领域包括机器人操作、自动化制造和智能家居等场景。通过降低推理成本，VLA模型能够在更复杂的任务中实现实时决策，提升机器人在动态环境中的适应能力和效率，具有重要的实际价值和未来影响。

📄 摘要（原文）

Vision-language-action (VLA) models are trained by imitation and capture what action to take but not why; adding causal reasoning improves manipulation, but current methods pay for it at inference time - generating reasoning tokens or rolling out predicted future states at every step, a cost that compounds over long horizons. We ask whether this benefit can instead be captured during training and discarded before deployment. We introduce Latent Semantic Scaffolding (LSS), an auxiliary loss applied during human-demonstration pretraining that aligns a VLA's action-token representations to text embeddings of physical-reasoning rationales through a small projection head. The head is dropped at inference, leaving the unmodified base policy with zero added cost. Our central finding concerns alignment granularity: aligning each action token to the rationale of its own manipulation phase (Dense LSS) rather than to a single pooled episode-level embedding (Pooled LSS) yields representations that transfer markedly better to held-out tasks. Dense LSS attains both the best in-distribution success and the best transfer to tasks unseen during alignment, whereas pooled alignment over-specializes to the training task. A representational probe shows Dense LSS induces roughly twice the per-phase separability in the backbone, supporting that phase-local alignment is the operative mechanism.