Advancing Financial Engineering with Foundation Models: Progress, Applications, and Challenges

📄 arXiv: 2507.18577v2 📥 PDF

作者: Liyuan Chen, Shuoling Liu, Jiangpeng Yan, Xiaoyu Wang, Henglin Liu, Chuang Li, Kecheng Jiao, Jixuan Ying, Yang Veronica Liu, Qiang Yang, Xiu Li

分类: q-fin.CP, cs.AI, cs.LG

发布日期: 2025-07-07 (更新: 2025-12-15)

备注: Accepted by [J]. Engineering, 2025

DOI: 10.1016/j.eng.2025.11.029

💡 一句话要点

综述金融领域专用大模型：进展、应用与挑战

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 金融工程 基础模型 金融语言模型 时间序列模型 视觉语言模型 深度学习 自然语言处理

📋 核心要点

  1. 现有通用大模型在金融领域的应用受限于多模态推理、监管合规和数据隐私等领域特定需求。
  2. 论文核心在于综述金融领域专用基础模型（FFMs），涵盖语言、时间序列和视觉语言三种模态。
  3. 论文回顾了FFMs的架构、训练方法、数据集和实际应用，并指出了数据、算法和基础设施方面的挑战。

📝 摘要（中文）

金融领域正迎来基础模型（FMs）的变革，这些大规模预训练模型具有强大的泛化能力，为金融工程开辟了新的前沿。虽然像GPT-4和Gemini这样的通用FM在金融报告总结和情感感知预测等任务中表现出良好的性能，但许多金融应用仍然受到特定领域需求的限制，例如多模态推理、监管合规和数据隐私。这些挑战催生了金融基础模型（FFMs）：一种专门为金融设计的模型。本综述全面概述了FFM，其分类涵盖三个关键模式：金融语言基础模型（FinLFMs）、金融时间序列基础模型（FinTSFMs）和金融视觉语言基础模型（FinVLFMs）。我们回顾了它们的架构、训练方法、数据集和实际应用。此外，我们还指出了数据可用性、算法可扩展性和基础设施限制方面的关键挑战，并为未来的研究机会提供了见解。我们希望本综述既可以作为理解FFM的全面参考，也可以作为未来创新的实用路线图。

🔬 方法详解

问题定义：现有通用大模型在金融领域的应用面临诸多挑战，例如，金融报告包含大量表格和图表，需要多模态理解能力；金融领域对监管合规性要求极高，模型需要具备可解释性；金融数据涉及敏感信息，需要考虑数据隐私保护。这些挑战限制了通用大模型在金融领域的应用效果。

核心思路：论文的核心思路是系统性地梳理和总结金融领域专用基础模型（FFMs），并从不同模态（语言、时间序列、视觉语言）进行分类。通过对FFMs的架构、训练方法、数据集和应用的全面回顾，为研究人员提供一个理解和探索FFMs的框架。

技术框架：论文构建了一个FFMs的分类体系，主要包括三个模块：FinLFMs（金融语言基础模型）、FinTSFMs（金融时间序列基础模型）和FinVLFMs（金融视觉语言基础模型）。每个模块都详细介绍了相关模型的架构、训练方法、数据集和实际应用。此外，论文还讨论了FFMs面临的挑战，例如数据可用性、算法可扩展性和基础设施限制。

关键创新：论文的主要创新在于对FFMs进行了系统性的分类和综述，并指出了该领域的研究方向。通过对不同模态的FFMs进行比较和分析，论文为研究人员提供了一个全面的视角，帮助他们更好地理解和应用FFMs。

关键设计：论文没有提出新的模型或算法，而是对现有FFMs进行了梳理和总结。论文重点关注了不同FFMs的架构设计、训练策略和数据集选择，并分析了这些设计对模型性能的影响。例如，论文讨论了如何利用金融领域的特定知识来设计更有效的FinLFMs，以及如何利用时间序列数据来训练更准确的FinTSFMs。

📊 实验亮点

该论文是一篇全面的综述，系统地总结了金融领域专用基础模型（FFMs）的最新进展。论文对FFMs进行了分类，并详细介绍了不同模态的FFMs的架构、训练方法、数据集和应用。此外，论文还指出了FFMs面临的挑战，并为未来的研究方向提供了有价值的见解。

🎯 应用场景

该研究成果可应用于金融报告分析、风险管理、投资组合优化、欺诈检测等多个领域。通过利用金融领域专用基础模型，可以提高金融服务的效率和准确性，降低风险，并为投资者提供更好的决策支持。未来，FFMs有望在智能投顾、量化交易等领域发挥更大的作用。

📄 摘要（原文）

The advent of foundation models (FMs), large-scale pre-trained models with strong generalization capabilities, has opened new frontiers for financial engineering. While general-purpose FMs such as GPT-4 and Gemini have demonstrated promising performance in tasks ranging from financial report summarization to sentiment-aware forecasting, many financial applications remain constrained by unique domain requirements such as multimodal reasoning, regulatory compliance, and data privacy. These challenges have spurred the emergence of financial foundation models (FFMs): a new class of models explicitly designed for finance. This survey presents a comprehensive overview of FFMs, with a taxonomy spanning three key modalities: financial language foundation models (FinLFMs), financial time-series foundation models (FinTSFMs), and financial visual-language foundation models (FinVLFMs). We review their architectures, training methodologies, datasets, and real-world applications. Furthermore, we identify critical challenges in data availability, algorithmic scalability, and infrastructure constraints and offer insights into future research opportunities. We hope this survey can serve as both a comprehensive reference for understanding FFMs and a practical roadmap for future innovation.