SkillFM: Generating Skills for LLM Agents via Latent Flow Matching

📄 arXiv: 2609.39382v1 📥 PDF

作者: Zuming Zhang, Jie He, Yizhe Zhang, Jeff Z. Pan

分类: cs.AI

发布日期: 2026-09-30

备注: 33 pages, 8 figures

🔗 代码/项目: GITHUB

💡 一句话要点

提出SkillFM框架以生成LLM代理的文本技能

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 技能生成 大型语言模型 潜在流匹配 具身任务 问答系统 电子商务 条件流模型

📋 核心要点

  1. 现有方法依赖于手动策划的技能库或间接反馈的强化学习，导致技能生成效率低下。
  2. SkillFM框架通过生成任务条件下的文本技能，避免了测试时的技能检索，提升了生成效率。
  3. 在ALFWorld和Search-QA任务中，SkillFM在性能上超越了其他基于向量的技能方法，显示出其有效性。

📝 摘要（中文）

文本技能为大型语言模型代理提供可重用的指导，但现有方法通常依赖于手动策划的技能库或使用间接和延迟反馈的强化学习。我们提出了SkillFM（技能流匹配），这是一个生成框架，能够直接合成任务条件下的文本技能，而无需在测试时进行技能检索。该框架结合了用于在连续潜在空间中编码和重构文本技能的编解码器，以及使用改进的MeanFlow训练的条件流模型。在推理时，学习到的速度场使得单步潜在采样成为可能，基于LLM的解码器将采样的表示转换为冻结下游代理的文本指导。我们在具身任务、问答和网络购物上评估了该框架。在ALFWorld和Search-QA上，我们的方法在比较的基于向量的技能方法中实现了最佳整体性能。我们的分析进一步表明，潜在技能生成是检索基础技能增强的有效替代方案。

🔬 方法详解

问题定义：本论文旨在解决现有技能生成方法依赖手动策划和间接反馈的问题，这些方法在效率和灵活性上存在不足。

核心思路：SkillFM框架通过生成任务条件下的文本技能，采用潜在流匹配的方式，直接合成技能，避免了传统方法的检索过程。

技术框架：该框架包括编码器和解码器模块，编码器将文本技能映射到连续潜在空间，解码器则将潜在表示转换为文本指导。条件流模型在训练过程中使用改进的MeanFlow，以提高生成质量。

关键创新：SkillFM的主要创新在于其潜在技能生成机制，通过学习速度场实现单步潜在采样，与传统的检索方法相比，显著提高了生成的灵活性和实时性。

关键设计：在设计中，使用了特定的损失函数来优化潜在空间的表示，网络结构采用了条件流模型，确保生成的技能与任务条件高度相关。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在ALFWorld和Search-QA任务中，SkillFM框架的表现优于其他基于向量的技能方法，具体性能数据表明其在多个任务上实现了最佳整体性能，验证了潜在技能生成的有效性。

🎯 应用场景

SkillFM框架具有广泛的应用潜力，尤其在具身任务、问答系统和电子商务等领域。通过提供高效的技能生成能力，能够显著提升大型语言模型代理的智能水平和用户体验，未来可能推动更多智能应用的发展。

📄 摘要（原文）

Textual skills provide reusable guidance for large language model agents, but existing approaches often rely on manually curated skill banks or reinforcement learning with indirect and delayed feedback. We introduce SkillFM (Skill Flow Matching), a generative framework that synthesizes task-conditioned textual skills directly without test-time skill retrieval. Our framework combines a codec for encoding and reconstructing textual skills in a continuous latent space with a conditional flow model trained using improved MeanFlow. At inference time, the learned velocity field enables single-step latent sampling, and an LLM-based decoder converts the sampled representation into textual guidance for a frozen downstream agent. We evaluate the framework on embodied tasks, question answering, and web shopping. On ALFWorld and Search-QA, our method achieves the best overall performance among the compared vector-based skill approaches. Our analyses further demonstrate that latent skill generation is an effective alternative to retrieval-based skill augmentation. Our code and training skill libraries are available at https://github.com/lulushang999/SkillFM.