SlackDrive: Reclaiming Runtime Slack for Adaptive Driving Inference
作者: Xiaohuan Pei, Hengguang Zhou, Yuanhao Ban, Justin Cui, Jiaqi Feng, Haoyu Xie, Tao Huang, Pichao Wang, Yanchao Yang, Cho-Jui Hsieh
分类: cs.AI, cs.RO
发布日期: 2026-09-23
💡 一句话要点
提出SlackDrive以解决自适应驾驶推理中的计算预算问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 自适应驾驶 计算预算 实时推理 延迟优化 多模态推理
📋 核心要点
- 现有方法在处理驾驶推理时，推理成本与实时延迟要求之间的矛盾日益突出，导致性能下降。
- SlackDrive通过重用已实现的延迟来动态选择每个控制步骤的计算预算，从而优化计算资源的使用。
- 在NAVSIM v2实验中，SlackDrive在严格延迟条件下较最强基线提升了21.7%，显示出其有效性。
📝 摘要（中文）
驾驶世界行动模型通过将多模态推理与未来预测结合来改善规划，但其日益增长的推理成本与车辆控制的实时延迟要求之间的冲突日益加剧。现有加速方法通过在部署前选择策略来减少令牌、层或采样步骤，但在离线分析和静态调度后，剩余的运行时变化未得到充分利用。我们观察到，最大的可接受计算预算与剩余运行时状态系统性变化，而最近实现的延迟为可用计算松弛提供了直接信号。基于此观察，我们提出了SlackDrive，一种预推理计算分配器，利用实现的延迟在模型执行前选择每个控制步骤的计算预算。SlackDrive在NAVSIM v2上与DriveDreamer-Policy结合使用，提升了在严格延迟条件下的EPDMS性能，较最强基线提高了21.7%。
🔬 方法详解
问题定义：本论文旨在解决自适应驾驶推理中计算预算的动态分配问题。现有方法在离线分析和静态调度后，未能充分利用运行时的剩余变化，导致计算资源的浪费。
核心思路：SlackDrive的核心思想是利用已实现的延迟信息来动态选择每个控制步骤的计算预算。这种方法能够根据实时的计算状态调整资源分配，从而提高推理效率。
技术框架：SlackDrive的整体架构包括三个主要模块：首先是延迟和规划效用的离线分析，其次是在线计算状态的估计，最后是基于效用的预算选择。该框架通过一次性分析小的离散预算集来实现高效的计算分配。
关键创新：SlackDrive的主要创新在于其动态计算预算分配机制，能够实时响应计算状态的变化。这与现有方法的静态资源调度形成鲜明对比，显著提升了推理性能。
关键设计：在设计中，SlackDrive使用了小规模的离线预算集分析，并结合了实时的延迟反馈机制。关键参数设置包括预算选择的效用评估标准，以及与驾驶模型的兼容性设计。通过这些设计，SlackDrive能够在保证推理准确性的同时，优化计算资源的使用。
🖼️ 关键图片
📊 实验亮点
在NAVSIM v2的实验中，SlackDrive在严格的延迟条件下较最强基线提升了21.7%。这一结果表明，SlackDrive在动态计算预算分配方面的有效性，能够显著改善自适应驾驶推理的性能。
🎯 应用场景
SlackDrive的研究成果在自动驾驶、智能交通系统等领域具有广泛的应用潜力。通过优化计算资源的使用，该方法能够提高车辆控制的实时性和安全性，推动智能驾驶技术的进一步发展。未来，该技术还可能扩展到其他需要实时决策的智能系统中。
📄 摘要（原文）
Driving world-action models improve planning by coupling multimodal reasoning with future prediction, but their growing inference cost increasingly conflicts with the real-time latency requirements of vehicle control. Existing acceleration methods reduce tokens, layers, or sampling steps with policies selected prior to deployment, yet leave residual runtime variation largely unexploited after offline profiling and static scheduling on shared onboard compute. We observe that the largest admissible compute budget varies systematically with the residual runtime state, while recent realized latency provides a direct signal of the available compute slack. Motivated by this observation, we propose \textbf{SlackDrive}, a pre-inference compute allocator that reuses realized latency to select the compute budget of each control step before model execution. SlackDrive profiles the latency and planning utility of a small discrete budget set once, estimates online compute state from completed forwards, and selects the highest-utility budget predicted to remain within the admissible latency envelope, complementing existing profiling and resource scheduling while preserving the driving backbone and its compute actuator. On NAVSIM v2 with DriveDreamer-Policy, SlackDrive improves latency-constrained EPDMS by $21.7\%$ over the strongest baseline under a stringent latency regime, while the full-budget model and preconfigured token-pruning baselines exceed the admissible latency envelope under runtime contention.