Prior or Feedback? What an LLM Uses When Adapting Neural Operators

📄 arXiv: 2610.12325v1 📥 PDF

作者: Julian Chan, Javier Mora Jimenez

分类: cs.AI, cs.LG, physics.comp-ph

发布日期: 2026-10-08

备注: 16 pages, 4 figures, 5 tables. Accepted at the NeurIPS 2026 Workshop on AI for Science: Verification in the Age of AI Scientists. Equal contribution

💡 一句话要点

提出LLM反馈机制以优化神经算子适应性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 神经算子 实验反馈 偏微分方程 微调配置 性能优化 机器学习

📋 核心要点

  1. 现有方法在神经算子适应中，缺乏对实验反馈的有效利用，导致性能提升有限。
  2. 本文提出LLM结合任务依赖的先验知识与实验反馈，优化微调配置选择，提升适应性。
  3. 实验结果显示，LLM在多种偏微分方程（PDE）转移中，测试nRMSE显著优于随机搜索和贝叶斯优化。

📝 摘要（中文）

本文研究了大型语言模型（LLM）在神经算子适应中的决策过程，探讨其是否仅依赖初始任务上下文，或在实验反馈下进行调整。研究表明，LLM在有限的试验预算内选择微调配置时，几乎在所有匹配比较中，其测试nRMSE均优于随机搜索和贝叶斯优化。通过控制干预验证，发现LLM的初始配置在未观察到验证分数前已接近随机搜索池的顶端，显示出有用的初始偏差。反馈可用时，重新分配验证分数会影响后续提案，表明LLM的决策既依赖于任务特征，也敏感于实验反馈。

🔬 方法详解

问题定义：本文旨在解决LLM在神经算子适应中是否仅依赖初始任务上下文的问题。现有方法未能有效利用实验反馈，导致适应性不足。

核心思路：论文提出LLM在选择微调配置时，结合任务相关的先验知识与实验反馈，以实现更优的决策过程。这样的设计使得LLM能够在有限的试验预算内，快速适应不同的任务需求。

技术框架：整体架构包括初始配置选择、反馈获取与配置调整三个主要模块。首先，LLM根据任务描述生成初始配置；然后，通过实验获取反馈；最后，基于反馈调整后续配置。

关键创新：最重要的技术创新在于LLM能够在未观察到验证分数前，利用初始偏差进行有效配置选择。这与传统方法的随机搜索和贝叶斯优化形成鲜明对比，后者往往依赖于大量实验数据。

关键设计：关键参数包括基础学习率的选择，该学习率会根据PDE描述进行调整。此外，采用了价值保持重写机制，以确保在反馈调整过程中，模型的决策保持一致性。实验中使用的损失函数和网络结构经过精心设计，以适应不同的任务需求。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果显示，LLM在多种PDE转移中，其测试nRMSE在几乎所有匹配比较中均优于随机搜索和贝叶斯优化，表现出显著的性能提升。具体而言，LLM的初始配置在未观察到验证分数前已接近随机搜索池的顶端，验证了其初始偏差的有效性。

🎯 应用场景

该研究的潜在应用领域包括科学计算、工程模拟和机器学习模型优化等。通过有效结合任务先验与反馈机制，LLM可以在动态环境中快速适应，提升模型的整体性能和效率，具有重要的实际价值和未来影响。

📄 摘要（原文）

Do LLM scientific agents rely only on their initial task context, or do they adapt their decisions in response to experimental feedback? We study this question in neural operator adaptation, where a large language model (LLM) selects fine-tuning configurations under a limited trial budget. Across transfers within and between partial differential equation (PDE) families, the LLM achieves lower held-out test nRMSE than random search and Bayesian optimisation in nearly every matched comparison. Endpoint performance alone cannot distinguish what happens, so we verify each attribution with controlled interventions. Before observing any validation score, the LLM's first configuration already ranks near the top of the corresponding random-search pool, indicating a useful initial bias. A complementary cold-start intervention shows that the selected base learning rate shifts with the PDE description. Once feedback becomes available, reassigning validation scores among evaluated configurations changes the next proposal in every case tested, whereas a value-preserving rewrite produces no comparable aggregate effect. These interventions establish that the LLM's decision-level actions respond to the given task and observed outcomes, showing that it combines a task-dependent prior with sensitivity to experimental feedback.