In-Context Batch Black-box Optimization via Flow Matching
作者: Quoc-Anh Hoang Nguyen, Xinyu Zhang, Daolang Huang, Julien Martinelli, Samuel Kaski
分类: cs.LG
发布日期: 2026-10-14
💡 一句话要点
提出Flow Matching以解决批量黑箱优化问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 黑箱优化 批量选择 流匹配 Thompson采样 计算效率 机器学习 优化算法
📋 核心要点
- 现有的贝叶斯优化方法在批量大小增加时，批量选择过程变得复杂且效率低下。
- 本文提出的FMTR方法通过离线学习历史条件的提议分布，能够高效生成可变大小的批量。
- FMTR在合成和真实世界基准测试中表现优异，相较于传统批量黑箱优化方法显著降低了计算成本。
📝 摘要（中文）
批量黑箱优化在评估昂贵系统时至关重要，尤其是在可并行评估多个候选者但仅能承受少量评估轮次的情况下。在这一背景下，有效的批量构建必须识别多个有前景的区域，同时避免冗余评估。传统的贝叶斯优化在批量大小增加时，批量选择过程变得愈发复杂。本文提出了一种名为Thompson-Sampling Refinement的流匹配方法（FMTR），该方法通过条件流匹配学习一个连续的、历史条件的提议分布，从中可以采样可变大小的批量。FMTR在测试时模型参数保持固定，批量生成不需要特定任务的代理重拟或数值获取优化。实验表明，FMTR在合成和真实世界基准测试中表现优异，显著降低了批量选择的计算成本。
🔬 方法详解
问题定义：本文旨在解决在昂贵系统中进行批量黑箱优化时，如何有效构建批量以避免冗余评估的问题。现有方法在批量大小增加时，批量选择变得愈发复杂，导致效率低下。
核心思路：FMTR通过离线学习一个连续的、历史条件的提议分布，能够在测试时快速生成可变大小的批量，避免了传统方法中需要的复杂批量选择过程。
技术框架：FMTR的整体架构包括离线训练和在线测试两个阶段。在离线训练阶段，通过条件流匹配对Thompson采样的argmax进行优化，利用Langevin推前映射适应探索与利用的权衡。在在线测试阶段，模型参数保持固定，直接生成批量。
关键创新：FMTR的主要创新在于其流匹配机制，通过历史条件的提议分布来优化批量选择，显著提高了效率并降低了计算成本。这与传统的贝叶斯优化方法形成了鲜明对比。
关键设计：FMTR的设计中，使用了条件流匹配作为损失函数，确保生成的批量能够有效覆盖高价值区域。同时，Langevin推前映射的设计使得探索与利用的平衡更加灵活。
🖼️ 关键图片
📊 实验亮点
实验结果表明，FMTR在合成和真实世界基准测试中表现优异，相较于传统的批量黑箱优化方法，FMTR在批量选择的计算成本上显著降低，且在性能上超过了多个基线方法，展示了其强大的应用潜力。
🎯 应用场景
该研究的潜在应用领域包括自动化实验设计、超参数优化以及其他需要高效评估昂贵函数的场景。FMTR的高效批量生成能力能够在实际应用中显著降低计算资源的消耗，提升优化效率，具有重要的实际价值和未来影响。
📄 摘要（原文）
Batch black-box optimization is important for expensive systems where many candidates can be evaluated in parallel, yet only a few rounds of evaluation are affordable. In this regime, effective batch construction must identify multiple promising regions while avoiding redundant evaluations, and conventional Bayesian optimization can require increasingly difficult batch-selection procedures as the batch size grows. We introduce Flow Matching for Thompson-Sampling Refinement (FMTR), an amortized approach that learns offline a continuous, history-conditioned proposal distribution from which variable-size batches can be sampled. FMTR is trained offline by conditional flow matching on Thompson-sampling argmaxes refined toward high-value regions via a horizon-dependent Langevin pushforward map, adapting the exploration-exploitation tradeoff over the optimization horizon. At test time, the model parameters remain fixed and batch generation requires neither task-specific surrogate refitting nor numerical acquisition optimization. FMTR achieves strong performance against batch BO and in-context baselines on synthetic and real-world benchmarks, while substantially reducing the computational cost of batch selection.