Screw Attention: Rigid-Body Algebra Inside a Transformer
作者: Aly Magassouba
分类: cs.RO, cs.AI
发布日期: 2026-10-01 (更新: 2026-10-02)
备注: 13 pages, 8 Figures, 2 Tables
💡 一句话要点
提出Screw Attention以解决刚体运动中的几何变化脆弱性问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 刚体力学 变换器 空间变换 机器人操作 鲁棒性 策略学习 姿态估计
📋 核心要点
- 现有的学习操作策略在几何变化下表现脆弱，无法有效处理刚体运动中的空间关系。
- 提出的Screw Attention通过将物体间的关系定义为空间变换，增强了模型对几何变化的鲁棒性。
- 在LIBERO-Spatial实验中，使用16k参数的策略成功率达到97.3%，显著优于其他同类网络。
📝 摘要（中文）
学习的操作策略从数据中重新发现刚体力学提供的空间关系，这使得它们对几何变化非常脆弱。本文提出了Screw Attention，这是一种变换器层，其中两个物体之间的关系是空间变换而非图边。每对标记携带相对姿态，对于机器人关节，则携带关节螺旋。消息沿着这种关系传输到接收者的坐标系中，而注意力分数仅查看框架不变的量。通过构造，消息对每个标记的独立框架变化是等变的，单层可以表达刚体力学的速度递归。在LIBERO-Spatial上，基于物体姿态训练的16k参数策略达到了97.3%的成功率，超过了同样大小的图、变换器和扁平网络，以及参数多27倍的扁平网络。消融实验表明，性能提升源于正确关系的传输，结构在任务需要框架间关系时表现最佳。等变性使得策略对机器人描述的变化具有鲁棒性，而其他学习网络在框架约定变化下崩溃。此外，该策略对姿态噪声和校准误差的容忍度至少与解析控制器相当。作为解析控制器的门控残差使用时，它还改善了接触丰富的插入任务。代码和训练策略将会发布。
🔬 方法详解
问题定义：本文旨在解决现有学习策略在刚体运动中对几何变化的脆弱性，现有方法无法有效捕捉物体间的空间关系。
核心思路：Screw Attention通过将物体间的关系视为空间变换而非简单的图边，增强了模型的鲁棒性，使其能够在不同坐标系下保持一致性。
技术框架：整体架构包括一个变换器层，每对标记携带相对姿态和关节螺旋，消息在接收者的坐标系中进行传输，注意力机制仅关注框架不变的量。
关键创新：最重要的创新在于消息的等变性设计，使得每个标记在独立框架变化下保持一致性，这一特性在现有方法中并未实现。
关键设计：模型使用16k参数，损失函数和网络结构经过精心设计，以确保在不同任务中有效传递空间关系，消融实验验证了设计的有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，基于Screw Attention的策略在LIBERO-Spatial上达到了97.3%的成功率，显著优于同样参数规模的图、变换器和扁平网络，且在处理姿态噪声和校准误差方面表现出色。
🎯 应用场景
该研究的潜在应用领域包括机器人操作、自动化装配和人机交互等场景，能够提升机器人在复杂环境中的操作能力和适应性。未来，该方法有望在更多实际应用中发挥重要作用，尤其是在需要处理动态变化的环境中。
📄 摘要（原文）
Learned manipulation policies rediscover from data the spatial relations that rigid-body mechanics supplies in closed form, which leaves them fragile to geometric change. We present Screw Attention, a transformer layer in which the relation between two bodies is a spatial transform rather than a graph edge. Each pair of tokens carries the relative pose and, for robot joints, the joint screw. Messages are transported along this relation into the receiver's frame, while the attention scores see only frame-invariant quantities. By construction, the messages are equivariant to an independent change of frame at every token, and a single layer can express the velocity recursion of rigid-body mechanics. On LIBERO-Spatial, a policy of 16k parameters trained from object poses alone reaches 97.3% success, above graph, transformer and flat networks of the same size and a flat network with 27 times more parameters. Ablations show that the gain comes from transporting the correct relations, and that the structure pays most where the task requires relations between frames that nothing else supplies. The equivariance makes the policy robust to how the robot is described, where every other learned network collapses under a change of frame convention. Furthermore, the policy tolerates pose noise and calibration errors at least as well as an analytic controller. Used as a gated residual on an analytic controller, it also improves a contact-rich insertion task. Code and trained policies will be released.