Encore: Few-Shot Agentic Discovery of Manipulation Strategies
作者: Yifan Kang, Zihan Wang, Zhiwen Fan, Bangya Liu
分类: cs.RO, cs.AI, cs.CV, cs.LG
发布日期: 2026-09-29
💡 一句话要点
提出ENCORE以解决机器人任务中的策略发现问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 机器人学习 自主策略发现 少量学习 演示学习 多视角分析
📋 核心要点
- 现有方法在机器人任务中通常依赖于人类提供的详细指令，导致代理在执行时缺乏必要的策略信息。
- ENCORE通过少量演示作为证据，利用确定性构建器提炼出多种信息，帮助代理自主学习和优化策略。
- 实验结果表明，ENCORE在多项任务中表现优异，成功率显著高于传统方法，且在真实机器人上也能有效应用。
📝 摘要（中文）
编码代理现在可以在很少的人类帮助下编写、运行和调试程序。然而，机器人任务通常通过一句话来指定，缺乏如何抓取、接触顺序和结果预期等细节。ENCORE通过提供少量演示作为证据，而非训练数据，使代理能够通过试错找到这些细节。一个确定性的构建器将每个演示提炼为多视角关键帧、抓取事件、帧条带和完整轨迹。编码代理研究这些信息，编写策略程序，并在固定的感知和动作API下进行迭代优化。在LIBERO-PRO上，代理的第一个程序在有演示的情况下成功率达到50%，在没有演示的情况下也能成功完成一项任务，且冻结的程序在相同语言模型下的表现优于最强的先前代理系统（96.3%对比89.3%）。在RoboDojo任务中，没有演示的情况下没有程序成功。ENCORE还在真实的双手机器人上运行，从五个演示中学习立方体交接和杯子翻转。
🔬 方法详解
问题定义：论文要解决的问题是如何在缺乏详细指令的情况下，使机器人代理自主发现和优化操作策略。现有方法往往依赖于人类提供的详细指令，导致代理在执行复杂任务时效率低下。
核心思路：ENCORE的核心思路是通过提供少量演示作为证据，而非传统的训练数据，帮助代理自主学习操作策略。通过分析演示中的多视角信息，代理能够更好地理解任务要求。
技术框架：ENCORE的整体架构包括几个主要模块：首先，确定性构建器将演示提炼为多视角关键帧、抓取事件和完整轨迹；其次，编码代理基于这些信息编写策略程序，并在固定的感知和动作API下进行迭代优化；最后，在封闭评估中测试程序的有效性。
关键创新：ENCORE的关键创新在于将演示作为证据而非训练数据，允许代理在没有明确成功信号的情况下进行自主学习和优化。这种方法与传统依赖大量标注数据的方式本质上不同。
关键设计：在设计中，ENCORE使用了多视角关键帧和抓取事件的提炼方法，确保代理能够从演示中获取丰富的信息。此外，采用了固定的感知和动作API，使得策略编写和优化过程更加高效。实验中还使用了特定的损失函数来指导代理的学习过程。
🖼️ 关键图片
📊 实验亮点
ENCORE在LIBERO-PRO任务中，代理的第一个程序在有演示的情况下成功率达到50%，在没有演示的情况下也能成功完成一项任务。冻结的程序在相同语言模型下的表现达到96.3%，显著高于先前的89.3%。在RoboDojo任务中，所有程序在没有演示的情况下均未成功，显示出演示的重要性。
🎯 应用场景
该研究的潜在应用领域包括自主机器人操作、智能家居系统和工业自动化等。通过减少对人类指导的依赖，ENCORE能够提高机器人在复杂环境中的自主性和灵活性，具有重要的实际价值和未来影响。
📄 摘要（原文）
Coding agents can now write, run, and debug programs with little human help. Robot tasks, however, are usually specified by a sentence that leaves out how to grasp, in what order to make contact, and what the result should look like, and an agent given only the sentence must find these details by trial and error. We introduce ENCORE, which gives the agent a few demonstrations as evidence to read rather than as training data. A deterministic builder distills each demonstration into a pack of multi-view keyframes, gripper events, frame strips, and the full trajectory. A coding agent studies the pack, writes a policy program against a fixed perception and action API, refines it iteratively over a few development rollouts, and freezes it before a sealed evaluation that never reveals the success signal. On LIBERO-PRO, the agent's first program already succeeds in half of the perturbed tasks with demonstrations and in one task without them, and the frozen programs outperform the strongest prior agentic system run with the same language model (96.3% against 89.3%). On RoboDojo tasks whose instructions leave the goal unstated, no program succeeds without demonstrations. ENCORE also runs on a real bimanual robot, learning cube handover and cup inversion from five demonstrations each.