LeCuration: A Tiny World Model as a Data Curation Multi-Tool

📄 arXiv: 2610.09285v1 📥 PDF

作者: Mayank Sengupta, Nirmit Desai, Eric Song, Kunal Sawarkar

分类: cs.LG, cs.AI, cs.CV, cs.RO

发布日期: 2026-10-07

备注: 9 pages

💡 一句话要点

提出LeCuration以解决物理AI数据整理问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 物理AI 数据整理 小型世界模型 异常检测 聚类算法 游戏状态预测 深度学习

📋 核心要点

  1. 现有物理AI应用在数据整理和过滤方面存在效率低下的问题，难以适应不同数据集的特性。
  2. 本文提出LeCuration，通过训练小型世界模型，利用特定数据集的物理法则进行数据整理，提升数据处理效率。
  3. 实验结果表明，LeCuration模型的嵌入可用于异常检测和聚类，且在游戏状态预测中表现出良好的动作状态一致性。

📝 摘要（中文）

许多物理AI应用在有限或封闭的物理世界中运行，这些世界受限于特定的物理法则。为了更好地组织、过滤和整理这些数据，本文提出了一种新的方法，聚焦于各个数据集的独特设置和物理法则。我们训练了LeCuration，一个小型世界模型，旨在作为数据整理工具，辅助更大下游模型的应用。通过选择LeWorldModel作为潜在编码器和预测器，并添加扩散变换器解码器，我们发现该模型的嵌入可以用于异常检测和基于内容的聚类，并且能够定性检查动作状态一致性。本文展示了在CS:GO游戏数据上的定性概念验证案例研究。

🔬 方法详解

问题定义：本文旨在解决物理AI应用中数据整理和过滤效率低下的问题。现有方法未能充分利用数据集的独特物理法则，导致数据处理不够精准和高效。

核心思路：论文提出LeCuration，一个小型世界模型，专注于特定数据集的物理特性，通过训练模型来优化数据整理过程，以支持下游更大模型的应用。

技术框架：LeCuration的整体架构包括LeWorldModel作为潜在编码器和预测器，并结合扩散变换器解码器，形成一个完整的数据处理流程。该流程首先编码数据，然后生成可视化输出，最后进行状态预测。

关键创新：LeCuration的主要创新在于其小型世界模型的设计，能够根据特定数据集的物理法则进行数据整理，与传统方法相比，提供了更高的灵活性和适应性。

关键设计：模型采用了扩散变换器解码器，以增强自回归游戏状态的生成能力。关键参数设置和损失函数的选择旨在优化模型的嵌入质量，以便于后续的异常检测和聚类任务。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，LeCuration模型的嵌入能够有效用于异常检测和内容聚类，且在CS:GO游戏状态预测中表现出良好的动作状态一致性，验证了其作为数据整理工具的潜力。

🎯 应用场景

LeCuration的研究成果在多个物理AI应用领域具有潜在价值，尤其是在机器人、游戏代理和智能制造等场景中。通过优化数据整理过程，该模型能够提升系统的整体性能和响应速度，未来可能推动更复杂物理环境下的AI应用发展。

📄 摘要（原文）

Many applications of physical AI run within finite or closed physical worlds with a limited set of physical laws governing object behavior. Examples include robots working in a warehouse and agents moving around in a video game. In order to better organize, filter, and curate data for physical AI applications, we propose a new approach centered on the unique settings and physical laws of individual datasets. We train LeCuration, a small world model intended to serve as a data curation tool for a separate, larger downstream model. To build this model, we choose LeWorldModel (LeWM)as our latent encoder and predictor, adding a diffusion transformer (DiT) decoder to add visuals to autoregressive gameplay rollout. We find that the embeddings of this model can be used as an anomaly detection signal and as a content-based clustering heuristic, and that auto-regressively predicting the game state with this model allows us to qualitatively check for action-state consistency. This paper presents a qualitative, proof-of-concept case study on CS:GO gameplay data; we do not yet report quantitative curation metrics or downstream training results, which we identify as the key next step.