LLMs are General Asynchronous Agents

📄 arXiv: 2609.35427v1 📥 PDF

作者: George Yakushev, Denis Mazur, Vladimir Bartenev, Vyacheslav Zhdanovskiy, Timofey Byzov, Vladimir Kaurkin, Vadim Pastushenko

分类: cs.LG, cs.CL

发布日期: 2026-09-28

备注: Preprint

💡 一句话要点

提出通用异步代理框架以解决LLMs的顺序交互问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 异步代理 大型语言模型 流媒体理解 多任务处理 协程设计 实时监控 机器人控制

📋 核心要点

  1. 现有的LLMs在处理异步任务时存在局限性，无法有效应对并发输入。
  2. 本文提出了一种异步LLM框架，允许定义重叠内存状态的推理协程，以适应不同的并发类型。
  3. 实验结果表明，Qwen 3.x模型在多个异步任务中表现出色，且无需针对特定任务进行训练。

📝 摘要（中文）

现代大型语言模型（LLMs）作为自主代理的能力日益增强，但它们通常遵循顺序交互周期：读取、思考、回复或调用工具等。许多实际应用场景并非顺序进行，例如语音助手、具身代理和监控系统在思考或执行其他任务时会接收新的输入。本文通过开发一个异步LLM框架，允许用户或代理自身定义具有重叠内存状态的推理协程，从而将不同的异步任务概括为通用异步代理。我们展示了Qwen 3.x模型在流媒体视频理解、电子游戏和监控等任务中能够实现异步操作，而无需特定任务的训练。

🔬 方法详解

问题定义：本文旨在解决现有大型语言模型在处理异步任务时的局限性，尤其是在多任务并发输入的场景下，现有模型往往无法有效响应新输入。

核心思路：论文提出的异步LLM框架允许用户或代理定义推理协程，这些协程可以共享内存状态，从而实现更灵活的任务处理。这样的设计使得模型能够在执行任务时同时接收和处理新的输入。

技术框架：整体架构包括多个模块，首先是输入处理模块，接着是推理协程的定义与管理模块，最后是输出生成模块。各模块之间通过共享内存状态进行交互，以支持异步操作。

关键创新：最重要的创新在于将异步任务的处理能力与大型语言模型结合，形成通用异步代理。这一方法与传统的顺序处理方式本质上不同，能够更好地适应复杂的实时应用场景。

关键设计：在技术细节上，框架允许用户自定义协程的执行顺序和内存状态的重叠程度，具体参数设置和损失函数的选择也经过优化，以确保模型在异步操作中的稳定性和效率。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，Qwen 3.x模型在流媒体视频理解和电子游戏等任务中实现了显著的性能提升，能够在不进行特定任务训练的情况下，成功处理异步输入，展示了其强大的适应能力和灵活性。

🎯 应用场景

该研究的潜在应用领域包括智能语音助手、机器人控制、实时监控系统等。通过实现异步操作，模型能够在多任务环境中更高效地处理信息，从而提升用户体验和系统响应速度，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Modern LLMs are increasingly capable as autonomous agents, but they follow sequential interaction cycles: read, think, reply or call tools, repeat. Many real-world use cases are not sequential: voice assistants, embodied agents, and monitoring systems receive new inputs while they think or perform another task. Modern LLMs address this with specialized architectures for voice interaction and video streams, VLAs for robot control, asynchronous tool calling for API usage, and others. In this work, we generalize from different asynchronous tasks to general asynchronous agents that can adapt to different types of concurrency. To achieve this, we develop an asynchronous LLM framework that lets users (or the agents themselves) define inference coroutines with overlapping memory states. We showcase that Qwen 3.x models are capable of asynchronous operation for streaming video understanding, videogames, and monitoring, without task-specific training.