BeJEPA: A Goal-Conditioned Humanoid Behavior World Model via Unsupervised RL
作者: Liyun Yan, Haoyang Li, Yang Zhang, Jialing Zhu, Zhanxiang Cao, Zihao Zhou, Keqi Zhu, Yizhi Chen, Huang Chuxuan, Shengcheng Fu, Zhong Jiangwei, Qiao Sun, Chen Zhang, Yue Gao
分类: cs.RO
发布日期: 2026-10-16
🔗 代码/项目: PROJECT_PAGE
💡 一句话要点
提出BeJEPA以解决类人机器人控制中的目标定位问题
🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱二:RL算法与架构 (RL & Architecture) 支柱七:动作重定向 (Motion Retargeting) 支柱八:物理动画 (Physics-based Animation)
关键词: 类人机器人 无监督强化学习 行为世界模型 动态预测器 目标条件策略
📋 核心要点
- 现有类人机器人控制方法在位移后难以恢复目标姿态,导致控制精度不足。
- BeJEPA通过无监督强化学习,结合动态预测器和后继预测器,学习目标条件行为世界模型。
- 在20秒的运动跟踪实验中,BeJEPA显著降低了全局身体位置误差,相较于基线提升幅度达到61.7%和58.7%。
📝 摘要(中文)
类人机器人控制需要协调全身姿态与世界坐标系中的位置和朝向。现有主流控制器在根坐标系中模仿轨迹,但在位移后难以恢复目标世界姿态。本文提出BeJEPA,一种通过无监督强化学习从人类运动先验和机器人交互中学习的目标条件行为世界模型。BeJEPA通过联合嵌入预测架构(JEPA)学习身体配置和世界位置的共享表示。动态预测器在给定动作下预测下一个状态嵌入,而后继预测器则总结目标条件策略的预期折扣未来状态嵌入。实验表明,BeJEPA在全局身体位置误差上优于所有基线,且在Unitree G1上的物理部署展示了姿态、世界位置和朝向目标的联合达成。
🔬 方法详解
问题定义:本文旨在解决类人机器人在位移后难以恢复目标世界姿态的问题。现有方法主要依赖根坐标系的轨迹模仿,难以有效应对动态环境中的变化。
核心思路:BeJEPA通过无监督强化学习,利用人类运动先验和机器人交互数据,学习一个目标条件的行为世界模型。该模型通过动态预测器和后继预测器的组合,能够在不进行长时间想象回放的情况下,提升策略的改进效率。
技术框架:BeJEPA的整体架构包括两个主要模块:动态预测器和后继预测器。动态预测器负责在给定动作下预测下一个状态的嵌入,而后继预测器则总结目标条件策略的预期未来状态嵌入。两者的联合训练使得初始表示能够在观察到的物理转变中得到基础,而后继预测器则围绕长期行为进行组织。
关键创新:BeJEPA的核心创新在于其联合嵌入预测架构(JEPA),通过动态和后继预测器的组合,能够有效地在物理预测和行为总结之间进行指导,显著提升了类人机器人的控制精度。
关键设计:在模型设计中,动态预测器和后继预测器的损失函数经过精心设计,以确保模型能够在不同的状态下进行有效的学习和预测。此外,模型的参数设置经过多次实验验证,以确保其在实际应用中的稳定性和可靠性。
🖼️ 关键图片
📊 实验亮点
在20秒的运动跟踪实验中,BeJEPA通过在线动作优化显著降低了全局身体位置误差,相较于BFM-Zero和SONIC分别提升了61.7%和58.7%。此外,物理部署在Unitree G1上展示了其在姿态、世界位置和朝向目标的联合达成能力。
🎯 应用场景
BeJEPA的研究成果在类人机器人控制、自动化生产线、服务机器人等领域具有广泛的应用潜力。通过提高机器人在动态环境中的适应能力和控制精度,BeJEPA可以为未来的智能机器人系统提供更为可靠的技术支持,推动人机协作的进步。
📄 摘要(原文)
Humanoid control requires coordinating whole-body posture with position and heading in the world frame. Mainstream controllers imitate trajectories in the root frame, but struggle to regain the target world pose after displacement. We introduce BeJEPA, a goal-conditioned Behavior World Model learned through unsupervised reinforcement learning from human motion priors and robot interaction. BeJEPA learns a shared representation of body configuration and world placement through a joint-embedding predictive architecture (JEPA). A Dynamic Predictor predicts the next state embedding under an action, while a Successor Predictor summarizes a goal-conditioned policy's expected discounted future state embeddings in a single vector. During joint training, Dynamic grounds the initial representation in observed physical transitions, while Successor increasingly organizes it around long-term behavior. Their composition guides policy improvement through one physical prediction and one behavioral summary, without long imagined rollouts. In 20-second motion-tracking experiments, BeJEPA with online action refinement using Dynamic outperforms all evaluated baselines in global body-position error, reducing it on AMASS by 61.7% relative to BFM-Zero with world-pose inputs and 58.7% relative to SONIC. Physical deployment on a Unitree G1 demonstrates joint attainment of posture, world position, and heading goals, recovery from the ground, and closed-loop return after disturbances and goal changes. Project page: https://ylyem9x.github.io/BeJEPA-project.