Can the Cloud Drive? Infrastructure Feasibility of Offloading Autonomous Driving Across 5G and 6G
作者: Pouya Parsa, Kawon Han, Seongjin Choi
分类: eess.SY
发布日期: 2026-07-10
备注: 25 pages, 10 figures
💡 一句话要点
提出云端推理框架以解决自动驾驶计算资源不足问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 自动驾驶 云端推理 5G 6G 计算资源 经济性 通信模型 GPU服务
📋 核心要点
- 现有的自动驾驶模型在车载计算资源上面临瓶颈，尤其是高性能的VLA模型，导致经济性不足。
- 论文提出了一种结合通信限制与GPU服务模型的分析框架，评估云端推理在自动驾驶中的可行性。
- 研究表明，通信、计算和成本三个因素相互影响，决定了不同模型在不同年份的可行性和经济性。
📝 摘要（中文）
前沿的自动驾驶模型，尤其是视觉-语言-动作（VLA）模型，其前向推理接近60 TFLOPs，已超出经济实用的车载部署能力。云端推理可以在活跃车辆之间共享GPU，但车辆必须通过带宽有限的上行链路上传数据，并在闭环预算内返回决策。本文提出了一种分析框架，结合通信限制、屋顶线GPU服务模型、随机延迟和利用率感知成本，分析了三种模型类别、三种卸载策略和三种通信代际在纽约市的应用。研究发现，在密集小区中，通信首先受限，5G早期失效，5G-Advanced是特征级卸载的实际阈值，而6G则提供了更大的余地。计算在反应预算下受限，近期VLA在任何带宽下都存在延迟不可行的问题。最终，成本限制了云GPU的经济性。
🔬 方法详解
问题定义：本文旨在解决自动驾驶中高性能计算资源不足的问题，尤其是VLA模型在车载环境中的经济性和可行性。现有方法在带宽和计算能力上存在显著限制，导致无法满足实时反应需求。
核心思路：论文通过建立一个分析框架，结合通信限制、GPU服务模型和随机延迟，评估云端推理的可行性。该框架考虑了不同的卸载策略和通信代际，以适应动态的城市环境。
技术框架：整体架构包括三个主要模块：通信模型、计算模型和成本模型。通信模型评估上行链路的带宽限制，计算模型分析GPU的服务能力，而成本模型则考虑云端与车载硬件的经济性对比。
关键创新：最重要的创新在于将通信、计算和成本三者结合起来，形成一个综合评估框架，能够动态适应不同的城市环境和技术进步。与现有方法相比，该框架提供了更全面的视角。
关键设计：在参数设置上，考虑了不同的通信代际（5G、5G-Advanced、6G）和模型类别（反应型、深思型），并通过随机延迟模型来模拟实际环境中的不确定性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在密集城市环境中，5G的通信能力早期失效，而5G-Advanced和6G则分别在特征级卸载和反应型决策中展现出更好的性能。研究表明，VLA模型的延迟在2027年将达到可接受水平，6G技术的引入将进一步推动其经济性。
🎯 应用场景
该研究的潜在应用领域包括自动驾驶汽车、智能交通系统和城市物流等。通过云端推理，车辆可以在不增加硬件成本的情况下，利用强大的计算资源，提高自动驾驶的安全性和效率。未来，随着6G技术的发展，云端推理将更为普及，推动智能交通的全面升级。
📄 摘要（原文）
Frontier autonomous-driving models -- especially vision-language-action (VLA) models, whose forward pass approaches $\sim$60~TFLOPs -- are outgrowing economical onboard deployment, since peak hardware sits idle most of the day. Cloud inference can instead share GPUs across active vehicles, but the vehicle must upload through a capacity-limited uplink, reach a GPU without queueing, and return a decision within the closed-loop budget. This paper asks: can the cloud drive? We answer with an analytical framework coupling communication limits, a roofline GPU service model, stochastic latency, and utilization-aware cost across three model classes, three offloading strategies, and three communication generations, applied to New York City. Separating a reactive 100~ms budget from a 300~ms deliberative tier (presuming an onboard reactive fallback), we find three \emph{nested} binding regimes. Communication binds first in dense cells: 5G fails early, 5G-Advanced is the practical threshold for feature-level offloading, and 6G adds headroom. Compute binds next under the reactive budget: near-term VLA is latency-infeasible regardless of bandwidth, because autoregressive FP16 decode is memory-bandwidth-bound (~114 ms on 2025 hardware). Its floor clears 100 ms around 2027; 6G then admits feature-level VLA by ~2028, 5G-Advanced only at light loading and not the dense corridor, and the deliberative tier from 2026. Cost binds last: once admissible, utilization-pooled cloud GPUs undercut onboard hardware for VLA, whose baseline (up to \$8,500 per vehicle-year) is expensive and idle; feature-level offloading (S2) is where the VLA cost crossover concentrates. Latency decides which model is admissible in which year; cost decides whether it is economical.