Target-Independent Micro-Interventions for Predicting Training Response Across Language-Model Families

📄 arXiv: 2609.08618v1 📥 PDF

作者: Zhongxuan Liu, Sicheng Zhou, Hongzhi Wang

分类: cs.LG

发布日期: 2026-09-08

备注: 24 pages, 2 figures

💡 一句话要点

提出目标无关微干预以预测语言模型训练响应

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: 语言模型 微干预 训练响应 迁移学习 模型预测 能力空间 均方误差

📋 核心要点

  1. 现有方法无法准确预测语言模型在不同训练阶段的响应，导致训练效果不稳定。
  2. 本文提出通过目标无关的微干预来测量模型的训练响应，构建L-State以支持灵活的读出方式。
  3. 实验结果显示，采用新方法后，均方误差显著降低，且在不同模型间的迁移能力得到提升。

📝 摘要（中文）

基准分数描述了检查点当前的能力，但无法确定其在下一个训练阶段的响应。本文通过从同一检查点分支出四个短小的、标准化的、目标无关的微干预，测量这一缺失状态，并记录其在共同能力空间中的影响。这些响应与当前能力共同构成L-State，其脉冲块支持灵活的直接读出和结构保持的操作读出。在平滑的局部动态下，操作构造允许具有明确源和目标家族坐标异质性的端到端跨家族界限。在三家族的留一家庭开发中，这两种脉冲读出相较于单独能力将源标准化均方误差降低了39.4%。在封闭的GLM-4-9B上，直接和操作读出分别将均方误差降低了71.8%和78.3%。

🔬 方法详解

问题定义：本文旨在解决现有语言模型训练中无法准确预测模型响应的问题。现有方法主要依赖基准分数，无法反映模型在不同训练阶段的实际表现。

核心思路：论文提出通过目标无关的微干预来测量模型的训练响应，构建L-State以支持灵活的直接读出和结构保持的操作读出，从而更全面地捕捉模型的动态变化。

技术框架：整体架构包括从同一检查点分支出的四个微干预，记录其在共同能力空间中的影响，形成L-State。该框架支持脉冲读出和操作读出两种方式，适应不同的迁移学习需求。

关键创新：最重要的技术创新在于引入目标无关的微干预，能够揭示当前能力所遗漏的训练响应信息，并通过结构化的读出方式提升模型的预测能力。

关键设计：在实验中，采用了特定的损失函数和网络结构，以优化脉冲和操作读出的性能，确保在不同模型间的协调性和适应性。具体参数设置和网络结构细节在论文中有详细描述。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，在GLM-4-9B模型上，直接读出和操作读出分别将均方误差降低了71.8%和78.3%，操作读出还将平衡准确率从0.366提高到0.754，展现了显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、机器翻译和对话系统等。通过提高模型在不同训练阶段的响应预测能力，可以显著提升模型的训练效率和效果，推动智能系统的进一步发展。

📄 摘要（原文）

Benchmark scores describe what a checkpoint can do now, but they do not determine how it will respond to the next training episode. We measure this missing state by branching four short, standardized, target-independent micro-interventions from the same checkpoint and recording their effects in a common capability space. Together with current capability, these responses form L-State; its pulse block supports a flexible direct readout and a structure-preserving operator readout. Under smooth local dynamics, the operator construction admits an end-to-end cross-family bound with explicit source- and target-family coordinate heterogeneity. In three-family leave-one-family-out development, both pulse readouts reduce source-standardized MSE by 39.4% relative to capability alone, while separating the best response and direction estimates. On sealed GLM-4-9B, the direct and operator readouts reduce MSE by 71.8% and 78.3%, respectively, and the operator readout raises sign balanced accuracy from 0.366 to 0.754. On sealed Granite-3.1-8B, the direct readout reaches RMSE 0.544 and a development-fitted action-wise selector reaches 0.554, compared with 1.172 for capability alone. A five-family audit finds that the operator coordinate varies by action and family, and that modeling these deviations improves retrospective held-trajectory prediction. Target-independent interventions therefore expose training-response information that current capability misses, with direct and structured readouts covering complementary transfer regimes.