Yuan3.0 Flash: An Open Multimodal Large Language Model for Enterprise Applications

📄 arXiv: 2601.01718v1 📥 PDF

作者: YuanLab. ai, :, Shawn Wu, Sean Wang, Louie Li, Darcy Chen, Allen Wang, Jiangang Luo, Xudong Zhao, Joseph Shen, Gawain Ma, Jasper Jia, Marcus Mao, Claire Wang, Hunter He, Carol Wang, Zera Zhang, Jason Wang, Chonly Shen, Leo Zhang, Logan Chen, Qasim Meng, James Gong, Danied Zhao, Penn Zheng, Owen Zhu, Tong Yu

分类: cs.AI

发布日期: 2026-01-05

🔗 代码/项目: GITHUB

💡 一句话要点

Yuan3.0 Flash：面向企业应用，开源多模态大语言模型，采用RAPO优化推理。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态大语言模型 混合专家模型 企业应用 强化学习 推理优化 反射感知 自适应策略优化

📋 核心要点

  1. 现有大语言模型在企业级应用中存在过度思考的问题，导致效率降低和资源浪费。
  2. 提出反射感知自适应策略优化(RAPO)算法，通过强化学习来调节模型的推理过程，减少过度思考。
  3. Yuan3.0 Flash在企业级任务和通用推理任务上均表现出色，且计算效率显著提升。

📝 摘要（中文）

本文介绍了Yuan3.0 Flash，一个开源的混合专家(MoE)多模态大语言模型，激活参数37亿，总参数400亿。该模型专为提升企业级任务的性能而设计，同时保持在通用任务上的竞争力。为了解决大型推理模型(LRM)中常见的过度思考现象，我们提出了一种新的强化学习训练算法——反射感知自适应策略优化(RAPO)，有效地调节了过度思考行为。在检索增强生成(RAG)、复杂表格理解和摘要等企业级任务中，Yuan3.0 Flash始终表现出卓越的性能。此外，它在数学、科学等领域也表现出强大的推理能力，达到与前沿模型相当的准确率，但仅需约1/4到1/2的平均token数量。Yuan3.0 Flash已完全开源，以促进进一步的研究和实际部署。

🔬 方法详解

问题定义：现有的大型推理模型（LRM）在处理复杂任务时，常常出现“过度思考”的现象，即模型花费过多的计算资源进行不必要的推理步骤，导致效率降低和资源浪费。尤其是在企业级应用中，对模型的效率和成本效益有更高的要求，因此需要解决LRM的过度思考问题。

核心思路：论文的核心思路是通过强化学习（RL）来训练模型，使其能够自适应地调整推理策略，避免过度思考。具体来说，模型需要学会识别哪些推理步骤是必要的，哪些是不必要的，并根据任务的难度和模型的置信度来动态地调整推理深度。

技术框架：Yuan3.0 Flash 采用混合专家模型（MoE），包含多个专家网络，每个专家网络负责处理不同类型的任务。整体训练流程包括预训练阶段和强化学习微调阶段。在强化学习微调阶段，使用RAPO算法来优化模型的推理策略。RAPO算法基于策略梯度方法，通过奖励函数来引导模型学习更有效的推理路径。

关键创新：论文的关键创新在于提出了反射感知自适应策略优化（RAPO）算法。RAPO算法的核心思想是让模型能够“反思”其推理过程，并根据反思的结果来调整后续的推理策略。具体来说，RAPO算法引入了一个“反射模块”，该模块负责评估当前推理步骤的质量，并根据评估结果来调整策略网络的参数。这种反射机制使得模型能够更好地适应不同的任务和输入，从而避免过度思考。

关键设计：RAPO算法的关键设计包括：1)奖励函数的设计，奖励函数需要能够准确地反映推理过程的效率和准确性；2)反射模块的设计，反射模块需要能够有效地评估推理步骤的质量；3)策略网络的结构，策略网络需要能够灵活地调整推理策略。此外，论文还对MoE模型的专家数量、专家网络的结构等进行了优化，以提高模型的整体性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

Yuan3.0 Flash 在企业级任务（如RAG、复杂表格理解和摘要）上表现出卓越的性能。在数学和科学等推理任务中，其准确性与前沿模型相当，但平均token使用量仅为前沿模型的1/4到1/2。RAPO算法有效地解决了大模型的过度思考问题，显著提升了推理效率。

🎯 应用场景

Yuan3.0 Flash 适用于各种企业级应用场景，例如：智能客服、金融风控、知识图谱构建、自动化报告生成等。通过提高模型在复杂任务上的推理效率和准确性，可以降低企业的运营成本，提高工作效率。未来，该模型有望在更多领域得到应用，例如：智能制造、智慧医疗等。

📄 摘要（原文）

We introduce Yuan3.0 Flash, an open-source Mixture-of-Experts (MoE) MultiModal Large Language Model featuring 3.7B activated parameters and 40B total parameters, specifically designed to enhance performance on enterprise-oriented tasks while maintaining competitive capabilities on general-purpose tasks. To address the overthinking phenomenon commonly observed in Large Reasoning Models (LRMs), we propose Reflection-aware Adaptive Policy Optimization (RAPO), a novel RL training algorithm that effectively regulates overthinking behaviors. In enterprise-oriented tasks such as retrieval-augmented generation (RAG), complex table understanding, and summarization, Yuan3.0 Flash consistently achieves superior performance. Moreover, it also demonstrates strong reasoning capabilities in domains such as mathematics, science, etc., attaining accuracy comparable to frontier model while requiring only approximately 1/4 to 1/2 of the average tokens. Yuan3.0 Flash has been fully open-sourced to facilitate further research and real-world deployment: https://github.com/Yuan-lab-LLM/Yuan3.0.