GenAutoML: An Agentic Framework for Dynamic Architecture Generation and Optimization in Time-Series Analysis
作者: Oleeviya Babu Poikarayil, Cédric Schockaert, Abdulrahman Nahhas, Christian Daase, Mursal Dawodi, Jawid Ahmad Baktash
分类: cs.LG
发布日期: 2026-06-04
备注: 26 pages, 17 figures, 12 tables. Under review
💡 一句话要点
提出GenAutoML以解决时间序列分析中的动态架构生成问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 自动化机器学习 时间序列分析 神经网络架构 大型语言模型 动态优化 边缘计算 鲁棒性
📋 核心要点
- 现有的自动化机器学习方法通常依赖静态搜索空间,难以适应多样化的时间序列数据特征。
- GenAutoML框架利用大型语言模型生成神经网络架构,并通过沙箱反射循环实现自主优化。
- 在ETTh1、ETTm1和Weather基准测试中,GenAutoML生成的WaveInterferenceNet模型实现了低于0.01毫秒的推理延迟,同时保持了竞争性的预测性能。
📝 摘要(中文)
设计神经网络架构用于时间序列预测和异常检测仍然是一项资源密集型任务,通常需要大量领域专业知识。传统的自动化机器学习(AutoML)系统通常依赖于静态的预定义搜索空间,限制了其适应多样化数据特征的能力。我们提出了GenAutoML,一个利用大型语言模型(LLMs)作为神经架构师的代理框架,能够将自然语言需求与可执行的PyTorch实现相结合。该框架包含一个沙箱反射循环,用于自主代码优化,以及一个签名感知运行时,确保架构一致性和执行安全性。为了提高在非平稳条件下的鲁棒性,我们进一步引入了动态可逆实例归一化(Dyn-RevIN)包装器。实验结果表明,GenAutoML能够动态生成针对数据集特征的任务特定神经架构。
🔬 方法详解
问题定义:本论文旨在解决时间序列分析中神经网络架构设计的复杂性和资源消耗问题。现有的AutoML方法通常依赖于静态的架构搜索,无法有效适应不同数据集的特征和需求。
核心思路:论文提出的GenAutoML框架利用大型语言模型(LLMs)作为神经架构师,能够根据自然语言描述自动生成和优化神经网络架构。这种设计使得用户可以通过简单的语言输入需求,系统则自动生成相应的可执行代码。
技术框架:GenAutoML框架主要包括三个模块:1)大型语言模型生成模块,负责将自然语言需求转化为网络架构;2)沙箱反射循环,用于自主代码优化和迭代;3)签名感知运行时,确保生成架构的一致性和安全性。此外,动态可逆实例归一化(Dyn-RevIN)包装器用于增强模型在非平稳条件下的鲁棒性。
关键创新:GenAutoML的核心创新在于将大型语言模型与神经架构生成相结合,使得架构设计过程更加灵活和高效。与传统的AutoML方法相比,该框架能够动态适应数据集特征,显著提升了架构的生成效率和性能。
关键设计:在模型设计中,采用了动态可逆实例归一化(Dyn-RevIN)来处理数据的非平稳性。此外,框架中的沙箱反射循环允许模型在运行时进行自主优化,确保生成的架构在执行时的安全性和一致性。
🖼️ 关键图片
📊 实验亮点
在ETTh1、ETTm1和Weather基准测试中,GenAutoML生成的WaveInterferenceNet模型实现了低于0.01毫秒的推理延迟,同时保持了竞争性的预测性能。这一结果表明,GenAutoML在计算效率和架构适应性方面具有显著优势。
🎯 应用场景
GenAutoML框架在时间序列分析领域具有广泛的应用潜力,尤其是在资源受限和对延迟敏感的边缘计算环境中。通过自动生成和优化神经网络架构,该框架能够帮助用户快速适应不同的数据特征,提升预测准确性,降低计算资源消耗,具有重要的实际价值和未来影响。
📄 摘要(原文)
Designing neural architectures for time-series forecasting and anomaly detection remains a resource-intensive task that often requires substantial domain expertise. Traditional Automated Machine Learning (AutoML) systems typically rely on static, predefined search spaces, limiting their ability to adapt to diverse data characteristics. We present GenAutoML, an agentic framework that leverages Large Language Models (LLMs) as neural architects to bridge natural-language requirements and executable PyTorch implementations. The framework incorporates a Sandboxed Reflection Loop for autonomous code refinement and a Signature-Aware Runtime that enforces architectural consistency and execution safety. To improve robustness under non-stationary conditions, we further introduce a Dynamic Reversible Instance Normalization (Dyn-RevIN) wrapper. Experiments on the ETTh1, ETTm1, and Weather benchmarks demonstrate that GenAutoML can dynamically generate task-specific neural architectures tailored to dataset characteristics. Among the generated models, WaveInterferenceNet achieves inference latency below 0.01 ms per sample while maintaining competitive predictive performance. By emphasizing computational efficiency, architectural adaptability, and stable optimization behavior, GenAutoML enables the creation of ultra-lightweight neural networks suitable for resource-constrained and latency-sensitive Edge AI deployments.