AI Metropolis: Scaling Large Language Model-based Multi-Agent Simulation with Out-of-order Execution

📄 arXiv: 2411.03519v1 📥 PDF

作者: Zhiqiang Xie, Hao Kang, Ying Sheng, Tushar Krishna, Kayvon Fatahalian, Christos Kozyrakis

分类: cs.DC, cs.AI, cs.LG, cs.MA

发布日期: 2024-11-05

💡 一句话要点

AI Metropolis：通过乱序执行加速基于LLM的多智能体仿真

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多智能体仿真 大型语言模型 乱序执行 并行计算 智能体交互

📋 核心要点

  1. 现有LLM驱动的多智能体仿真受限于智能体间的虚假依赖，导致并行度不足，成为性能瓶颈。
  2. AI Metropolis通过动态跟踪智能体间的真实依赖关系，采用乱序执行调度，减少虚假依赖，提升并行性。
  3. 实验表明，AI Metropolis相比标准并行仿真有1.3x到4.15x的加速，且加速效果随智能体数量增加而提升。

📝 摘要（中文）

随着大型语言模型（LLM）在自然语言理解和推理能力上的不断提升，基于LLM的智能体越来越多地被应用于模拟环境中，以执行复杂任务、与其他智能体交互，并展现与社会科学和游戏相关的涌现行为。然而，当前的多智能体仿真经常由于虚假依赖关系导致的有限并行性而效率低下，从而造成性能瓶颈。本文介绍了一种名为AI Metropolis的仿真引擎，它通过结合乱序执行调度来提高LLM智能体仿真的效率。通过动态跟踪智能体之间的真实依赖关系，AI Metropolis最大限度地减少了虚假依赖关系，从而增强了并行性并实现了高效的硬件利用。评估结果表明，与采用全局同步的标准并行仿真相比，AI Metropolis实现了1.3倍到4.15倍的加速，并且随着智能体数量的增加，性能接近最优。

🔬 方法详解

问题定义：论文旨在解决基于LLM的多智能体仿真中由于虚假依赖关系导致的并行度不足问题。现有方法通常采用全局同步的并行仿真，这会强制智能体按照固定的顺序执行，即使某些智能体之间没有实际的依赖关系，也必须等待其他智能体完成，从而限制了并行性，造成性能瓶颈。

核心思路：AI Metropolis的核心思路是通过乱序执行调度来减少虚假依赖，从而提高并行性。它动态地跟踪智能体之间的真实依赖关系，并允许智能体以任何可能的顺序执行，只要它们满足依赖关系即可。这样可以最大限度地减少不必要的等待时间，并充分利用硬件资源。

技术框架：AI Metropolis的整体架构包含以下几个主要模块：1) 依赖关系跟踪器：负责动态地跟踪智能体之间的真实依赖关系。2) 调度器：根据依赖关系，决定哪些智能体可以并行执行。3) 执行引擎：负责执行智能体的动作。整个流程如下：首先，依赖关系跟踪器分析智能体的行为，确定它们之间的依赖关系。然后，调度器根据这些依赖关系，将可执行的智能体分配给执行引擎。执行引擎执行智能体的动作，并将结果反馈给依赖关系跟踪器，以便更新依赖关系。

关键创新：AI Metropolis最重要的技术创新点是其乱序执行调度机制。与传统的全局同步并行仿真相比，AI Metropolis能够动态地跟踪智能体之间的真实依赖关系，并允许智能体以任何可能的顺序执行，从而最大限度地减少了虚假依赖，提高了并行性。

关键设计：AI Metropolis的关键设计包括：1) 依赖关系跟踪器的实现方式，需要高效地跟踪智能体之间的依赖关系，避免引入过多的开销。2) 调度器的调度策略，需要在保证正确性的前提下，尽可能地提高并行性。3) 执行引擎的优化，需要高效地执行智能体的动作，避免成为性能瓶颈。具体的参数设置、损失函数、网络结构等技术细节在论文中未详细说明，属于未知内容。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，AI Metropolis在多智能体仿真中实现了显著的性能提升。与采用全局同步的标准并行仿真相比，AI Metropolis实现了1.3倍到4.15倍的加速。随着智能体数量的增加，AI Metropolis的加速效果更加明显，性能接近最优。这些结果证明了AI Metropolis在提高LLM智能体仿真效率方面的有效性。

🎯 应用场景

AI Metropolis可应用于各种基于LLM的多智能体仿真场景，例如社交行为模拟、游戏AI开发、交通流量优化、经济模型预测等。通过提高仿真效率，AI Metropolis能够支持更大规模、更复杂的仿真实验，从而帮助研究人员更好地理解智能体之间的交互行为，并开发出更智能、更高效的智能体系统。未来，AI Metropolis有望成为多智能体仿真领域的重要基础设施。

📄 摘要（原文）

With more advanced natural language understanding and reasoning capabilities, large language model (LLM)-powered agents are increasingly developed in simulated environments to perform complex tasks, interact with other agents, and exhibit emergent behaviors relevant to social science and gaming. However, current multi-agent simulations frequently suffer from inefficiencies due to the limited parallelism caused by false dependencies, resulting in performance bottlenecks. In this paper, we introduce AI Metropolis, a simulation engine that improves the efficiency of LLM agent simulations by incorporating out-of-order execution scheduling. By dynamically tracking real dependencies between agents, AI Metropolis minimizes false dependencies, enhancing parallelism and enabling efficient hardware utilization. Our evaluations demonstrate that AI Metropolis achieves speedups from 1.3x to 4.15x over standard parallel simulation with global synchronization, approaching optimal performance as the number of agents increases.