Heterogeneous Scientific Foundation Model Collaboration
作者: Zihao Li, Jiaru Zou, Feihao Fang, Xuying Ning, Mengting Ai, Tianxin Wei, Sirui Chen, Xiyuan Yang, Jingrui He
分类: cs.AI, cs.CL, cs.LG
发布日期: 2026-04-30
备注: Preprint. 57 Pages
💡 一句话要点
Eywa：异构科学基础模型协作框架，扩展Agentic LLM在科学领域的应用
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 异构模型协作 科学基础模型 Agentic LLM 领域特定模型 多模态推理
📋 核心要点
- 现有Agentic LLM系统依赖语言作为通用接口，限制了其在科学领域的应用，无法有效利用领域特定基础模型。
- Eywa框架通过语言模型推理接口增强领域特定基础模型，使语言模型能够指导对非语言数据模态的推理。
- 实验表明，Eywa在涉及结构化和领域特定数据的任务上表现更优，并减少了对语言推理的依赖。
📝 摘要（中文）
Agentic大语言模型系统展现了强大的能力。然而，它们对语言作为通用接口的依赖，从根本上限制了其在许多实际问题中的适用性，尤其是在科学领域，该领域已经开发了领域特定的基础模型来解决超出自然语言的专门任务。本文介绍了一种异构agentic框架Eywa，旨在将以语言为中心的系统扩展到更广泛的科学基础模型。Eywa的关键思想是用基于语言模型的推理接口来增强领域特定的基础模型，从而使语言模型能够指导对非语言数据模态的推理。这种设计允许通常针对特定数据和任务优化的预测性基础模型参与到agentic系统中的更高级别的推理和决策过程中。Eywa可以作为单agent流水线的直接替代品（EywaAgent），或者通过用专门的agent（EywaMAS）替换传统agent来集成到现有的多agent系统中。我们进一步研究了一种基于规划的编排框架，其中规划器动态地协调传统agent和Eywa agent，以解决跨异构数据模态的复杂任务（EywaOrchestra）。我们在涵盖物理、生命和社会科学的各种科学领域中评估了Eywa。实验结果表明，Eywa提高了涉及结构化和领域特定数据的任务的性能，同时通过与专门的基础模型有效协作，减少了对基于语言的推理的依赖。
🔬 方法详解
问题定义：现有Agentic LLM系统在科学领域应用受限，因为它们主要依赖自然语言作为通用接口，无法直接利用已有的、针对特定科学数据和任务优化的基础模型。这些领域特定模型通常处理非语言数据模态，例如物理模拟数据、基因序列或社会网络数据，而LLM难以直接处理这些数据。因此，如何将这些异构的科学基础模型集成到Agentic系统中，使其能够参与到更高级别的推理和决策过程中，是一个关键问题。
核心思路：Eywa的核心思路是利用语言模型（LLM）作为桥梁，连接领域特定的科学基础模型。具体来说，Eywa为每个领域特定的基础模型配备一个基于LLM的推理接口，该接口负责接收LLM的指令，并将指令转化为对领域特定模型的调用。同时，该接口还将领域特定模型的输出转化为LLM可以理解的自然语言描述，从而实现双向通信。这样，LLM就可以像指挥家一样，协调不同领域的科学基础模型，共同解决复杂问题。
技术框架：Eywa框架包含三种主要模式：EywaAgent、EywaMAS和EywaOrchestra。EywaAgent将单个Agent流水线中的传统Agent替换为集成了领域特定基础模型的Eywa Agent。EywaMAS将传统的多Agent系统中的部分或全部Agent替换为Eywa Agent，从而实现异构Agent之间的协作。EywaOrchestra则引入了一个基于规划的编排框架，该框架使用规划器动态地协调传统Agent和Eywa Agent，以解决跨异构数据模态的复杂任务。整体流程是，首先由LLM接收用户指令，然后根据指令生成规划，规划器根据规划调用相应的Agent（包括传统Agent和Eywa Agent），Eywa Agent通过其推理接口调用领域特定基础模型，并将结果返回给LLM，最终LLM将结果呈现给用户。
关键创新：Eywa的关键创新在于其异构模型协作机制，它允许LLM与非语言的领域特定基础模型进行交互，从而扩展了Agentic LLM系统的应用范围。与传统的Agentic系统相比，Eywa不再局限于处理自然语言数据，而是可以处理各种科学数据模态，例如物理模拟数据、基因序列和社会网络数据。这使得Eywa能够解决更复杂的科学问题，例如材料发现、药物设计和社会行为预测。
关键设计：Eywa的关键设计在于其基于LLM的推理接口。该接口需要能够理解LLM的指令，并将其转化为对领域特定模型的调用。同时，该接口还需要能够将领域特定模型的输出转化为LLM可以理解的自然语言描述。为了实现这一点，Eywa使用了prompt工程技术，设计了一系列prompt模板，用于指导LLM生成合适的指令和描述。此外，Eywa还使用了知识图谱等技术，来增强LLM对领域知识的理解，从而提高推理的准确性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，Eywa在涉及结构化和领域特定数据的任务上表现优于传统方法。例如，在材料发现任务中，Eywa能够更准确地预测材料的性质，从而加速新材料的发现。在药物设计任务中，Eywa能够更有效地筛选候选药物，从而降低药物研发成本。通过与专门的基础模型有效协作，Eywa显著减少了对基于语言的推理的依赖，提高了任务的整体性能。
🎯 应用场景
Eywa框架具有广泛的应用前景，可应用于材料发现、药物设计、社会行为预测等多个科学领域。通过整合不同领域的专业模型，Eywa能够解决传统方法难以处理的复杂问题，加速科学研究进程，并为实际应用提供更可靠的决策支持。未来，Eywa有望成为科研人员的重要工具，推动科学研究的智能化和自动化。
📄 摘要（原文）
Agentic large language model systems have demonstrated strong capabilities. However, their reliance on language as the universal interface fundamentally limits their applicability to many real-world problems, especially in scientific domains where domain-specific foundation models have been developed to address specialized tasks beyond natural language. In this work, we introduce Eywa, a heterogeneous agentic framework designed to extend language-centric systems to a broader class of scientific foundation models. The key idea of Eywa is to augment domain-specific foundation models with a language-model-based reasoning interface, enabling language models to guide inference over non-linguistic data modalities. This design allows predictive foundation models, which are typically optimized for specialized data and tasks, to participate in higher-level reasoning and decision-making processes within agentic systems. Eywa can serve as a drop-in replacement for a single-agent pipeline (EywaAgent) or be integrated into existing multi-agent systems by replacing traditional agents with specialized agents (EywaMAS). We further investigate a planning-based orchestration framework in which a planner dynamically coordinates traditional agents and Eywa agents to solve complex tasks across heterogeneous data modalities (EywaOrchestra). We evaluate Eywa across a diverse set of scientific domains spanning physical, life, and social sciences. Experimental results demonstrate that Eywa improves performance on tasks involving structured and domain-specific data, while reducing reliance on language-based reasoning through effective collaboration with specialized foundation models.