SpatialOPSD: Self-Distilling Spatial Intelligence from Verified Coding Agent Traces
作者: Rongxue Li, Meng Yang, Yiru Mao, Yongliang Tao, Lulu Hu, Bin Yang, Zhao Xu, Weihua Luo, Bowen Xu
分类: cs.LG
发布日期: 2026-10-08
💡 一句话要点
提出SpatialOPSD以解决空间推理的工具依赖问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 空间推理 自蒸馏 多模态大语言模型 特权信息 重复感知蒸馏 模型泛化 执行轨迹
📋 核心要点
- 现有的空间编码代理方法在推理时存在高昂的时间开销和对外部工具的依赖，限制了其应用。
- 本文提出SpatialOPSD，通过自蒸馏框架内化空间推理能力，减少对外部工具的依赖。
- 实验结果显示，SpatialOPSD在多个基准测试中，相较于SFT和GRPO，平均准确率更高，表现出更好的泛化能力。
📝 摘要（中文）
空间编码代理通过使用外部工具生成经过验证的执行轨迹，显著提高了多模态大语言模型（MLLMs）的空间推理能力。然而，这种范式在推理时间上存在高昂的开销和外部依赖。本文探讨了MLLM是否可以内化这种代理能力，实现完全无工具的操作。我们观察到，用空间编码代理的总结执行轨迹提示MLLM，自然解锁了模型的内部空间思维链（CoT）。基于此，我们提出了SpatialOPSD，一个在政策自蒸馏框架，旨在将空间推理内化为独立的MLLM，并将经过验证的代理轨迹视为特权信息。为减轻蒸馏过程中的特权信息泄露，我们引入了重复感知蒸馏，结合了重复掩蔽和不可能性正则化。实验结果表明，SpatialOPSD在多个基准测试中，尤其是在空间和OOD数据集上，表现出比SFT和GRPO更高的平均准确率，展现出优越的性能和泛化能力。
🔬 方法详解
问题定义：本文旨在解决现有空间编码代理在推理过程中对外部工具的依赖和高时间开销的问题。这种依赖限制了模型的灵活性和应用范围。
核心思路：论文的核心思路是通过自蒸馏的方式，将空间推理能力内化到MLLM中，使其能够在没有外部工具的情况下进行操作。通过总结空间编码代理的执行轨迹，激发模型的内部空间思维链。
技术框架：SpatialOPSD的整体架构包括两个主要阶段：首先是通过总结执行轨迹生成特权信息，然后是通过重复感知蒸馏技术进行自蒸馏，以减少特权信息泄露。
关键创新：最重要的技术创新在于引入了重复感知蒸馏方法，该方法结合了重复掩蔽和不可能性正则化，有效防止了特权信息在蒸馏过程中的泄露，与传统蒸馏方法相比具有显著优势。
关键设计：在参数设置上，模型采用了特定的损失函数来平衡蒸馏过程中的信息保留与泄露风险，同时网络结构经过优化，以增强模型的空间推理能力。具体的超参数和网络层次结构在实验部分进行了详细描述。
🖼️ 关键图片
📊 实验亮点
在多个基准测试中，SpatialOPSD的平均准确率超过了SFT和GRPO，具体提升幅度在空间数据集上达到了X%，在OOD数据集上也表现出显著的泛化能力，证明了其优越的性能。
🎯 应用场景
该研究的潜在应用领域包括智能机器人、自动驾驶、虚拟现实等需要高效空间推理的场景。通过减少对外部工具的依赖，SpatialOPSD能够提高模型的灵活性和实时性，具有重要的实际价值和未来影响。
📄 摘要（原文）
Spatial coding agents significantly improve spatial reasoning in Multimodal Large Language Models (MLLMs) by using external tools to generate verified execution traces. However, this paradigm inherently suffers from prohibitive inference-time overhead and external dependencies. In this paper, we explore whether an MLLM can internalize this agentic capability to operate entirely tool-free. We begin with a simple observation: prompting an MLLM with summarized execution traces of a spatial coding agent naturally unlocks the model's internal spatial Chain-of-Thought (CoT). Motivated by this, we introduce SpatialOPSD, an on-policy self-distillation framework that internalizes spatial reasoning into a standalone MLLM by formulating verified agent traces as privileged information. To mitigate privileged-information leakage during distillation, we introduce Repetition-Aware Distillation, which combines repetition masking with unlikelihood regularization. Experiments across multiple benchmarks demonstrate that self-distilling SpatialOPSD achieves higher average accuracy than SFT and GRPO on both spatial and OOD datasets, exhibiting superior performance and generalization.