AI-driven Thermal-aware Data Center Capacity Planning

📄 arXiv: 2610.02442v1 📥 PDF

作者: Yixing Li, Mark Fenton, Matthew Kaufeler, Ka Ming Leung, Xin Ai, Zhiyu Zeng

分类: cs.LG

发布日期: 2026-10-01

备注: Presented at DesignCon 2026

💡 一句话要点

提出AI驱动的热管理数据中心容量规划框架以应对挑战

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 热管理 数据中心 容量规划 人工智能 机器学习 CFD模拟 温度预测

📋 核心要点

  1. 现有方法在热管理方面面临挑战，尤其是在处理大型语言模型的高强度计算时，导致局部热点和难以预测的热负载。
  2. 论文提出了一种AI驱动的热感知容量规划框架，能够快速学习并实时预测数据中心的温度变化，优化工作负载分配和HVAC冷却效率。
  3. 实验结果表明，该AI模型在未见过的数据中心设计中实现了10000倍的速度提升，并且预测准确率显著高于传统CFD模拟。

📝 摘要（中文）

随着大型语言模型（LLMs）的出现，数据中心的热管理面临重大挑战。GPU计算的高强度导致局部热点，训练和推理期间的热负载激增使得实时冷却响应更加难以预测和控制。传统的热感知容量规划需要大量昂贵的高保真CFD模拟，而现有方法要么预测误差较大，要么对数据中心操作的假设过于简化。本文提出了一种AI驱动的框架，能够在几秒钟内为真实数据中心执行热感知容量规划。嵌入的AI模型从多个关键参数中学习，并在毫秒级别内提供温度预测。与高保真CFD模拟的对比结果显示，该模型在未见过的数据中心设计中实现了10000倍的速度提升和高准确率。

🔬 方法详解

问题定义：本文旨在解决数据中心在运行大型语言模型时的热管理问题，现有方法在预测精度和实时响应能力上存在不足。

核心思路：通过构建一个AI驱动的框架，利用机器学习模型从关键参数中学习，实现快速的温度预测，从而优化数据中心的容量规划。

技术框架：整体架构包括数据收集、AI模型训练和实时预测三个主要模块。数据收集阶段获取关键参数，模型训练阶段使用历史数据进行学习，预测阶段则实时提供温度预测。

关键创新：最重要的创新在于将AI模型与传统CFD模拟结合，显著提高了预测速度和准确性，解决了传统方法的高成本和低效率问题。

关键设计：模型设计中使用了多种关键参数，如机架功率、服务器功率、服务器布局和HVAC设置，损失函数经过优化以提高预测精度，网络结构采用了深度学习技术以增强模型的学习能力。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，所提出的AI模型在未见过的数据中心设计中实现了10000倍的速度提升，且预测准确率显著高于传统CFD模拟，展示了其在热管理领域的强大潜力。

🎯 应用场景

该研究的潜在应用领域包括数据中心的设计与运营，尤其是在处理高强度计算任务时。通过实时优化工作负载和冷却效率，能够显著降低运营成本，提高数据中心的能效，具有重要的实际价值和未来影响。

📄 摘要（原文）

The emerging of large language models (LLMs) has posed significant challenges to the thermal management of data center. Intense GPU computation for LLMs results in localized hotspots. Moreover, spiking thermal loads during training and inference bursts make real-time cooling response more difficult to predict and control. Thermal-aware capacity planning of data center requires massive expensive high-fidelity CFD simulations. AI models can perform real-time prediction for unseen designs. However, existing works either have large prediction error, or have over-simplified assumptions for data center operations. This work presents an AI-driven framework that can perform thermal-aware capacity planning for a real-world data center in seconds. The embedded AI model learns from numerous key parameters (rack power, server power, server placement, HVAC settings etc.), and provides temperature prediction within milliseconds. This AI model is tested against high-fidelity CFD simulations, and results show that for unseen data center designs, model can achieve high accuracy with 10000X speedup. Driven by the AI model, the authors design the thermal-aware capacity planning framework. This framework can help data center designers and operators instantaneously optimize both workload distribution and HVAC cooling efficiency.