Action Engine: Automatic Workflow Generation in FaaS

📄 arXiv: 2411.19485v2 📥 PDF

作者: Akiharu Esashi, Pawissanutt Lertpongrujikorn, Shinji Kato, Mohsen Amini Salehi

分类: cs.DC, cs.AI, cs.LG, cs.SE

发布日期: 2024-11-29 (更新: 2025-08-20)

备注: Published in the Future Generation Computer Systems (FGCS) journal; Source code is available at: https://github.com/hpcclab/action_engine

💡 一句话要点

Action Engine：利用工具增强的LLM自动生成FaaS工作流

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: FaaS 工作流生成 大型语言模型 自动化 云原生应用

📋 核心要点

  1. 云原生应用开发者在构建FaaS工作流时，面临专业知识要求高、平台依赖性强、扩展困难等挑战。
  2. Action Engine的核心思想是利用工具增强的LLM，将人类语言查询转化为自动化的FaaS工作流生成过程。
  3. 实验结果表明，Action Engine在保持平台和语言无关性的同时，实现了与少量样本学习方法相当的性能。

📝 摘要（中文）

本文提出了一种名为Action Engine的机制，它利用工具增强的大型语言模型（LLM）来解释人类语言查询，并自动生成FaaS工作流，从而减轻了开发人员的负担，降低了对专业知识和手动设计的需求。Action Engine包含从FaaS仓库中识别相关函数并无缝管理它们之间的数据依赖关系的模块，确保开发人员的查询得到处理和解决。此外，Action Engine可以通过注入用户提供的参数来执行生成的工作流。该工作还通过采用自动FaaS工作流生成的视角来系统地评估跨四个基本子过程的方法，从而弥补了工具增强的LLM研究中的空白。通过对各种参数进行基准测试，本研究为简化实际应用（特别是FaaS连续体中的应用）的工作流自动化提供了关键见解。评估表明，Action Engine实现了与少量样本学习方法相当的性能，同时保持了平台和语言的不可知性，从而减轻了工作流生成中特定于提供商的依赖性。Action Engine可以为非云技术开发人员解锁FaaS工作流生成，并加快云原生应用程序的开发周期。

🔬 方法详解

问题定义：论文旨在解决云原生应用开发者在构建基于FaaS（Function as a Service）的工作流时面临的挑战，包括需要专业的云知识、对特定平台存在依赖性以及工作流扩展困难等问题。现有方法通常需要手动设计和配置FaaS函数，耗时且容易出错，限制了FaaS的易用性和普及性。

核心思路：Action Engine的核心思路是利用工具增强的大型语言模型（LLM）来理解用户的自然语言查询，并自动生成相应的FaaS工作流。通过将LLM与FaaS函数仓库和数据依赖管理模块相结合，Action Engine能够将用户的意图转化为可执行的FaaS函数序列，从而降低了开发人员的专业知识要求和手动设计工作量。

技术框架：Action Engine的整体架构包含以下几个主要模块：1) 查询解析模块：负责解析用户的自然语言查询，提取关键信息和意图。2) 函数识别模块：根据查询意图，从FaaS函数仓库中识别相关的函数。3) 依赖管理模块：分析函数之间的数据依赖关系，自动构建函数之间的调用链。4) 工作流生成模块：将识别的函数和依赖关系组合成完整的FaaS工作流。5) 执行引擎：负责执行生成的工作流，并管理函数的输入输出。

关键创新：Action Engine的关键创新在于将工具增强的LLM应用于FaaS工作流的自动生成。与传统的基于规则或模板的方法相比，Action Engine能够更好地理解用户的意图，并生成更加灵活和适应性强的工作流。此外，Action Engine还通过系统地评估跨四个基本子过程的方法，为工具增强的LLM研究提供了新的视角。

关键设计：Action Engine的关键设计包括：1) 使用特定的prompt工程技术来指导LLM进行函数识别和依赖管理。2) 设计了专门的FaaS函数仓库，用于存储和管理可用的FaaS函数。3) 实现了数据依赖关系的自动分析和管理机制，确保函数之间的数据传递正确无误。4) 采用模块化的设计，使得Action Engine可以方便地扩展和定制。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Action Engine在FaaS工作流生成方面取得了与少量样本学习方法相当的性能，同时保持了平台和语言的不可知性。这意味着Action Engine可以有效地降低对特定云平台的依赖，并支持多种编程语言。此外，Action Engine还能够显著减少手动设计和配置工作量，从而提高开发效率。

🎯 应用场景

Action Engine可应用于各种需要自动化工作流的场景，例如数据处理、图像识别、自然语言处理等。它可以帮助非云技术开发人员快速构建和部署基于FaaS的应用程序，从而加速云原生应用的开发周期。未来，Action Engine可以进一步扩展到支持更复杂的业务流程和更多的FaaS平台，成为云原生应用开发的重要工具。

📄 摘要（原文）

Function as a Service (FaaS) is poised to become the foundation of the next generation of cloud systems due to its inherent advantages in scalability, cost-efficiency, and ease of use. However, challenges such as the need for specialized knowledge, platform dependence, and difficulty in scalability in building functional workflows persist for cloud-native application developers. To overcome these challenges and mitigate the burden of developing FaaS-based applications, in this paper, we propose a mechanism called Action Engine, that makes use of tool-augmented large language models (LLMs) at its kernel to interpret human language queries and automates FaaS workflow generation, thereby, reducing the need for specialized expertise and manual design. Action Engine includes modules to identify relevant functions from the FaaS repository and seamlessly manage the data dependency between them, ensuring the developer's query is processed and resolved. Beyond that, Action Engine can execute the generated workflow by injecting the user-provided arguments. On another front, this work addresses a gap in tool-augmented LLM research via adopting an Automatic FaaS Workflow Generation perspective to systematically evaluate methodologies across four fundamental sub-processes. Through benchmarking various parameters, this research provides critical insights into streamlining workflow automation for real-world applications, specifically in the FaaS continuum. Our evaluations demonstrate that the Action Engine achieves comparable performance to the few-shot learning approach while maintaining platform- and language-agnosticism, thereby, mitigating provider-specific dependencies in workflow generation. We notice that Action Engine can unlock FaaS workflow generation for non-cloud-savvy developers and expedite the development cycles of cloud-native applications.