ActTune: Action-Aware Precision and GPU Operating-Point Adaptation for Energy-Efficient Vision-Language-Action Inference

📄 arXiv: 2610.08444v1 📥 PDF

作者: Zou Qingyun, Bin Gao, Wenju Zhao, Weng-Fai Wong, Bingsheng He, Tulika Mitra

分类: cs.RO, cs.AR

发布日期: 2026-10-06

💡 一句话要点

提出ActTune以解决GPU能耗与任务成功率的平衡问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 GPU能耗 动态精度分配 机器人控制 智能系统

📋 核心要点

  1. 现有方法在降低GPU能耗时，未能有效平衡任务成功率与推理延迟，导致能耗优化效果不佳。
  2. 本文提出ActTune框架，通过分析动作类别的量化敏感性，动态调整GPU操作点与层级精度分配，优化能耗。
  3. 在LIBERO基准测试中，ActTune相较于现有技术提高了任务成功率2.3%，推理速度提升达2.02倍，成功任务的能耗降低76.8%。

📝 摘要（中文）

视觉-语言-动作（VLA）策略在控制机器人时频繁调用推理，导致GPU能耗成为任务执行的重复成本。降低每次推理的能耗并不一定能降低每次成功任务的能耗，尤其是当数值误差导致失败或推理速度减慢时。因此，本文旨在在保持任务成功率的同时，优化每次成功任务的GPU能耗，并将推理延迟的增加控制在10%以内。我们提出了ActTune，一个基于动作感知的框架，通过层级精度分配与工作负载相关的GPU操作点选择相结合，显著提高了任务成功率和推理速度。

🔬 方法详解

问题定义：本文旨在解决视觉-语言-动作（VLA）策略在机器人控制中频繁推理导致的GPU能耗问题。现有方法在降低能耗的同时，未能有效保证任务成功率，且推理延迟可能影响执行效率。

核心思路：ActTune框架通过分析不同动作类别、模型层和权重与激活之间的量化敏感性，动态调整GPU操作点和层级精度分配，以优化每次成功任务的能耗。

技术框架：ActTune的整体架构包括决策树、精度配置选择和GPU操作点选择模块。决策树根据配置动作错误学习分裂和叶子精度配置，预测下一个工作负载并异步应用选定的GPU操作点。

关键创新：ActTune的创新在于其动作感知的精度分配与工作负载相关的GPU操作点选择相结合，显著提升了能效与任务成功率，区别于传统方法的静态配置。

关键设计：使用轻量级决策树进行精度配置选择，利用查找表在延迟预算下进行GPU操作点的异步应用，且共享量化权重库实现配置切换，无需权重重构或额外的策略评估。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

在LIBERO基准测试中，ActTune相较于现有技术提高了任务成功率2.3%，推理速度提升达2.02倍，成功任务的能耗降低76.8%。这些实验结果表明，ActTune在能效与任务成功率之间实现了良好的平衡，具有显著的实际应用价值。

🎯 应用场景

该研究的潜在应用领域包括机器人控制、智能家居和自动化工业等场景，能够有效降低能耗并提高任务执行效率，具有重要的实际价值和广泛的应用前景。未来，ActTune可能推动更高效的视觉-语言-动作系统的开发，促进智能机器人技术的进步。

📄 摘要（原文）

Vision-language-action (VLA) policies repeatedly invoke inference to control robots, making graphics processing unit (GPU) energy a recurring cost of task execution. Reducing energy per inference call, however, may not reduce energy per successful task if numerical errors increase failures or slower inference prolongs execution. We therefore target GPU energy per successful task while preserving task success and keeping the inference-latency increase within 10\%. Our approach builds on two observations: quantization sensitivity varies across action classes, model layers, and weights versus activations; and numerical precision changes the workload, shifting favorable GPU operating points. We introduce ActTune, an action-aware framework that connects layer-wise precision allocation with workload-dependent GPU operating-point selection over requested frequency--power-cap pairs. A lightweight decision tree learns its splits and leaf precision configurations directly from configuration action errors, then selects precision before each policy call. The controller forecasts the next workload and applies the selected GPU operating point asynchronously using a lookup table calibrated under a latency budget. A shared resident quantized weight bank enables configuration switching without weight reconstruction or additional policy evaluations. On LIBERO, a benchmark for lifelong robot learning, ActTune improves mean task success by up to 2.3\% relative to state of the art. Relative to the original BF16 implementations, it delivers up to $2.02\times$ faster inference and, with GPU operating-point adaptation, reduces energy per successful task by up to 76.8\%.