Self-Improving is Often Sudden: Enlightenment-style Finetuning for Large-Scale Models
作者: Jing-Xiao Liao, Tianwei Zhang, Yu-Hao Jiang, Feifei Zhang, Hang-Cheng Dong, Feng-Lei Fan
分类: cs.LG
发布日期: 2026-07-15
💡 一句话要点
提出启蒙式微调方法以提升大规模模型性能
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大规模模型 自我提升 启蒙式微调 训练无关 多模态学习
📋 核心要点
- 现有方法在大规模模型的自我提升方面存在局限，主要依赖于训练过程中的权重更新。
- 本文提出的启蒙方法通过不更新权重的方式，修改关键模块的快捷方式，提供了一种新的后调优思路。
- 实验结果显示，启蒙方法在多个基准测试中显著提升了模型性能，展示了其有效性和潜力。
📝 摘要（中文）
在大规模基础模型的背景下，自主自我提升模型的研究受到越来越多的关注。本文借鉴人脑中的“启蒙”或“顿悟时刻”概念，假设大模型也存在类似的启蒙现象，具备突然能力提升的潜力。我们提出了一种名为“启蒙”的新型训练无关后调优范式，通过修改关键模块/层的快捷方式而不更新权重，克服了现有训练无关方法主要操作注意力权重的局限。我们为大型语言模型和视觉-语言模型分别提出了两种特定架构的实例，实验结果表明，启蒙方法有效释放了预训练网络的潜在能力，在多个基准和模型上取得了显著的性能提升。
🔬 方法详解
问题定义：本文旨在解决大规模模型在自我提升过程中的局限性，现有方法主要依赖于训练过程中的权重更新，难以有效释放模型的潜在能力。
核心思路：我们提出的启蒙方法通过修改关键模块的快捷方式，而不进行权重更新，借鉴了人类的“启蒙”现象，旨在实现模型能力的突然提升。
技术框架：整体架构包括对大型语言模型和视觉-语言模型的两种特定实例。对于语言模型，我们采用注意力头混合快捷方式，重新校准注意力权重；对于视觉-语言模型，我们在解码器层的残差连接中应用轻量级的标量调制因子，以调节信息流。
关键创新：最重要的技术创新在于提出了一种训练无关的后调优方法，通过修改模块快捷方式而非权重更新，突破了传统方法的限制。
关键设计：在大型语言模型中，采用自适应缩放因子初始化策略来链接初始注意力头的输出与其他目标头；在视觉-语言模型中，设计了轻量级的标量调制因子来调节信息流，确保信息的有效传递。
🖼️ 关键图片
📊 实验亮点
实验结果表明，启蒙方法在多个基准测试中显著提升了模型性能。例如，在特定任务上，相较于基线模型，性能提升幅度达到XX%，展示了其在大规模模型调优中的有效性。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、计算机视觉和多模态学习等。通过有效释放预训练模型的潜力，启蒙方法可以在实际应用中提升模型的性能，推动智能系统的进一步发展，具有重要的实际价值和未来影响。
📄 摘要（原文）
The pursuit of autonomously self-improving models has attracted growing interest in the era of large-scale foundation models. Drawing inspiration from the concept of "enlightenment" or "aha moment" in human brain, we hypothesize that large models exhibit an analogous enlightenment phenomenon-a latent capacity for sudden capability boost. Then, we propose Enlightenment, a novel training-free post-tuning paradigm for large-scale models. Our approach modifies shortcuts for key modules/layers without weight updates, while existing training-free ones predominantly manipulate attention weights. We introduce two architecture-specific instantiations: i) For large language models, we propose attention head-mixing shortcuts that recalibrate attention weights by linking the initial attention head's output to all other target heads, modulated by an adaptive scaling factor initialization strategy. ii) For vision-language models, we apply a lightweight scalar-modulated factor to residual connections in the decoder layers, regulating information flow. Extensive experiments show that Enlightenment efficiently unlocks the latent potential of pre-trained networks, yielding remarkable performance improvements across diverse benchmarks and models.