The Latent That Never Was: A Forensic Re-run of the CVAE Ablation in Action Chunking Transformer
作者: Bo Kang
分类: cs.RO, cs.LG
发布日期: 2026-09-15
💡 一句话要点
重新审视条件变分自编码器在动作分块变换器中的作用
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 动作分块变换器 条件变分自编码器 机器人操作 消融实验 策略学习 实验复现 潜在变量
📋 核心要点
- 现有的动作分块变换器在移除编码器后，成功率显著下降的结果未能在新实验中复现，显示出方法的稳定性问题。
- 论文通过重新运行消融实验，探讨编码器在成功率中的作用，并分析训练长度和检查点选择对结果的影响。
- 实验结果表明，编码器的移除并未导致原报告的成功率下降，且在不同权重下，潜在变量对重建的贡献有限。
📝 摘要（中文）
动作分块变换器（ACT）广泛应用于从示范中学习机器人操作。其条件变分自编码器包含一个编码器，用于捕捉训练期间示范之间的差异。原始ACT论文报告称，移除编码器使得两个模拟任务的平均成功率从35%降至2%。我们重新运行了这一消融实验，并检查结果是否依赖于实现或训练数据。尽管我们测试中未再出现原报告的下降，但成功率的细微变化仍不确定。为调查差异，我们改变了训练长度和评估时检查点的选择，这两者可以反转哪个策略得分更高，但原报告下降的原因仍未知。成功率本身并未明确编码器是否提供了帮助策略重建示范动作的信息。我们发布了代码、评估工具和结果，以便他人重复比较并在其他任务上测试编码器。
🔬 方法详解
问题定义：本论文旨在解决动作分块变换器（ACT）中编码器的作用不明确的问题，尤其是在移除编码器后成功率显著下降的现象。现有方法在不同实验条件下的稳定性和可靠性存在疑问。
核心思路：通过重新运行消融实验，验证编码器的必要性，并探讨训练长度和检查点选择对成功率的影响，旨在揭示编码器在策略学习中的真实作用。
技术框架：研究采用了原始ACT的代码，进行了消融实验，主要模块包括编码器、解码器和策略评估。通过调整训练参数和评估策略，观察成功率的变化。
关键创新：论文的创新在于重新审视了编码器的作用，发现其对成功率的影响并不如原文所述显著，提出了对现有结果的质疑，并提供了新的实验数据支持。
关键设计：在实验中，调整了训练长度和检查点选择策略，使用了不同的潜在变量权重设置，评估了编码器在不同条件下的表现，确保了实验的全面性和可靠性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，移除编码器并未导致成功率显著下降，且在不同权重下潜在变量对重建的贡献有限。成功率的变化在不同实验条件下表现出不确定性，提示未来研究需进一步探讨编码器的实际作用。
🎯 应用场景
该研究为机器人操作学习提供了新的视角，特别是在如何有效利用编码器方面。通过对编码器作用的深入分析，未来可以优化机器人学习算法，提高其在复杂任务中的表现，具有广泛的应用潜力。
📄 摘要（原文）
Action Chunking Transformers (ACT) are widely used to learn robot manipulation from demonstrations. Their conditional variational autoencoder includes an encoder meant to capture differences between demonstrations during training. The original ACT paper reported that encoder removal dropped the mean success rate from 35% to 2% on two simulated tasks with human demonstrations. We re-ran this ablation in the original code and checked whether the findings depend on the implementation or training data. The published drop does not reappear in our tests, although smaller gains or losses in success rate remain uncertain. To investigate the discrepancy, we varied training length and how checkpoints are selected for evaluation. Both can reverse which policy scores higher, but the published drop's cause remains unknown. Success rates alone leave open whether the encoder provides information that helps the policy reconstruct demonstrated actions. On the tested ACT benchmark, the sampled latent provides little reconstruction benefit at every tested nonzero weight of the penalty on latent information. At inference, ACT leaves this latent unused and sets it to zero. Skipping the encoder increases training throughput in both implementations we timed. We release code, evaluation tools and results so others can repeat the comparisons and test the encoder on other tasks.