A Multi-Agent LLM System for Automated Tuning of Specialized Neural Network Models

📄 arXiv: 2610.13663v1 📥 PDF

作者: Ivan Moloshnikov, Dmitry Kunitsyn, Alexander Sboev, Maksim Skorokhodov, Roman Rybka, Yuanchao Liu

分类: cs.AI, cs.CL, cs.LG, cs.MA, cs.NE

发布日期: 2026-10-09

💡 一句话要点

提出多智能体LLM系统以自动调优专用神经网络模型

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自动化调优 多智能体系统 神经网络优化 机器学习 物理信息神经网络

📋 核心要点

  1. 现有机器学习方法在关键组件选择上依赖人工，效率低且易出错。
  2. 本文提出的框架通过多智能体LLM自动调优关键组件，保持网络结构不变，提升了调优效率。
  3. 实验结果显示，该方法在多个任务中显著提高了分类准确率和求解精度，表现优于传统方法。

📝 摘要（中文）

许多机器学习方法采用两级结构：专家选择方法类别，而关键组件的选择通常是手动的。本文提出了一种自动调优这些组件的框架，适用于不同性质的模型。该多智能体大型语言模型（LLM）框架包含分析师、编码器和记录器三个角色，并配备实验日志和沙盒执行环境。与优化整个机器学习脚本或在离散空间中搜索架构的系统不同，该框架在开放但语义狭窄的空间中操作：代理仅为指定组件生成代码，保持整体网络结构不变。通过对分类脉冲神经网络和物理信息神经网络（PINN）求解高阶微分方程的验证，结果显示该方法在多个任务中优于基线。

🔬 方法详解

问题定义：本文旨在解决机器学习方法中关键组件选择的手动过程带来的效率低下和错误风险。现有方法通常依赖专家经验，缺乏自动化和灵活性。

核心思路：提出的框架利用多智能体LLM自动调优关键组件，允许在不改变整体网络结构的情况下，针对特定任务生成优化代码，从而提高调优效率和准确性。

技术框架：该框架包括三个主要角色：分析师、编码器和记录器，配合实验日志和沙盒执行环境，形成一个闭环的调优过程。代理在指定的语义空间内生成代码，确保调优过程的灵活性和针对性。

关键创新：最重要的创新在于框架的设计允许在开放但语义狭窄的空间中进行调优，避免了传统方法在全局搜索中的复杂性和低效性。

关键设计：框架中设置了特定的参数和损失函数，以适应不同任务的需求，确保在调优过程中能够有效捕捉到关键特征和模式。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，在五个任务中，该框架的分类准确率在MNIST上提高了13个百分点，在Digits上提高了6个百分点；对单孤子解的误差减少约2491倍，GNLSE运行中的不变性误差降低约325倍，KS问题的质量漂移降低14倍，表现出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括自动化机器学习、神经网络模型的优化以及复杂系统的建模。通过自动调优关键组件，研究可以显著提高模型的性能和适应性，推动智能系统在各行业的应用与发展。

📄 摘要（原文）

Many machine learning approaches are two-level: an expert selects a class of methods, within this class the choice of key components is critical and usually manual. This paper addresses the automatic tuning of these components and proposes a framework transferable across models of different nature. The multi-agent large language model (LLM) framework has three roles---analyst, coder, and recorder~---with an experiment log and a sandboxed execution environment. Unlike systems that optimize the entire ML script or search architectures in a discrete space, the framework operates over an open but semantically narrow space: the agent generates code only for the specified components, leaving the overall network structure unchanged. The approach is validated in two directions: tuning a classification spiking neural network with correlation learning, and solving high-order differential equations with Physics-Informed Neural Networks (PINN). Across five tasks---spiking classification on MNIST and Digits, and boundary-value problems for the generalized nonlinear Schrödinger equation (GNLSE) and Kuramoto--Sivashinsky (KS) equations---the agent outperforms the baselines: classification accuracy is 13 percentage points (MNIST) and 6 percentage points (Digits) higher; the error against the analytical single-soliton solution is reduced approximately 2491-fold; the invariant-preservation error drops approximately 325-fold in the selected GNLSE run with a Gaussian perturbation and by more than 100-fold on average over repeated initializations; and the mass drift drops 14-fold for the KS problem with a Gaussian perturbation. The framework thus tunes key components on tasks of different nature without changing its internal structure.