ABSOL: Aggregated Bayesian Subsampling Orchestrated with LLMs

📄 arXiv: 2609.15007v1 📥 PDF

作者: Jackson Hassell, Chen Shen, Estevam Hruschka

分类: cs.CL, cs.LG

发布日期: 2026-09-14

💡 一句话要点

提出ABSOL框架以提升贝叶斯网络结构学习的可靠性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 贝叶斯网络 结构学习 大型语言模型 概率推理 语义指导 数据推理 机器学习

📋 核心要点

  1. 现有方法在处理需要一致证据和依赖关系推理的任务时，表现出不可靠性，尤其是在大规模数据上学习贝叶斯网络结构时成本高且脆弱。
  2. ABSOL框架通过将大型语言模型作为有限的语义指导，结合贝叶斯网络的概率推理能力，提出了一种新的结构学习方法。
  3. 在五个基准测试中，ABSOL在每个测试上都成功生成有效图，并在节点数大于27的基准上实现了最高的Edge F_1，平均提升0.23。

📝 摘要（中文）

大型语言模型（LLMs）在作为结构化数据的自然语言接口中越来越常见，但在需要一致证据条件、依赖关系推理和不确定性估计时仍然不够可靠。贝叶斯网络提供了明确的概率推理层，但从数据中学习有用结构的过程在规模上仍然成本高且脆弱。本文提出了ABSOL，一个混合的LLM引导贝叶斯网络结构学习框架，利用LLMs作为有限的语义指导。在五个离散的贝叶斯网络基准测试中，ABSOL是唯一在每个基准上都能生成有效图的方法，并在所有节点数大于27的基准上实现了最高的Edge F_1。四个LLM增强模块为统计基础提供了互补的语义证据，平均提升了0.23的Edge F_1。后期精细化实验表明，这些提升部分依赖于限制LLM对最终结构的权威性。总体结果表明，语言衍生的语义知识在统计基础推理管道中作为有限指导时，可以显著改善可扩展的概率结构学习。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在结构化数据推理中的不可靠性，特别是在需要一致证据和依赖关系推理的情况下，现有贝叶斯网络学习方法在规模上面临高成本和脆弱性的问题。

核心思路：ABSOL框架的核心思路是将大型语言模型作为有限的语义指导，结合贝叶斯网络的概率推理能力，以提高结构学习的可靠性和有效性。通过这种方式，LLMs提供的语义信息可以增强统计推理的基础。

技术框架：ABSOL的整体架构包括多个模块，首先是数据输入和预处理阶段，然后是LLM的语义指导模块，接着是贝叶斯网络的结构学习模块，最后是后期精细化调整阶段。各模块之间通过数据流和信息反馈进行交互。

关键创新：ABSOL的主要创新在于将LLMs与贝叶斯网络结构学习相结合，形成了一种新的混合框架。这一方法在每个基准测试中都能生成有效图，并在多个测试中超越了现有方法。

关键设计：在设计中，ABSOL使用了四个LLM增强模块，这些模块提供互补的语义证据，显著提升了Edge F_1的表现。此外，后期精细化实验表明，限制LLM对最终结构的权威性是提升性能的关键因素之一。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

ABSOL在五个离散的贝叶斯网络基准测试中表现出色，成功生成有效图，并在节点数大于27的基准上实现了最高的Edge F_1，平均提升0.23，显示出其在结构学习中的显著优势。

🎯 应用场景

ABSOL框架在许多需要结构化推理的领域具有潜在应用价值，例如医疗诊断、金融风险评估和智能决策支持系统。通过提高贝叶斯网络的学习效率和可靠性，ABSOL能够帮助研究人员和工程师在复杂数据环境中做出更准确的推理和决策。

📄 摘要（原文）

Large language models are increasingly used as natural-language interfaces to structured data, yet they remain unreliable when answers require consistent evidence conditioning, dependency-aware reasoning, and uncertainty estimation. Bayesian networks provide an explicit probabilistic reasoning layer, but learning useful structures from data remains costly and fragile at scale. We introduce ABSOL, a hybrid LLM-guided Bayesian network structure-learning framework that uses LLMs as bounded semantic guides. Across five discrete BN benchmarks spanning 27 to 1041 nodes, ABSOL is the only evaluated method to produce a viable graph on every benchmark, and achieves the highest Edge F_1 on every benchmark larger than 27 nodes with GPT-5.4. The four LLM augmentations, which contribute complementary semantic evidence to the statistical backbone, improve Edge F_1 over the non-LLM aggregation backbone by +0.23 on average. Complementary post-hoc refinement experiments suggest that these gains depend in part on limiting the LLM's authority over the final structure. Together, these results show that language-derived semantic knowledge can substantially improve scalable probabilistic structure learning when used as bounded guidance within a statistically grounded reasoning pipeline. The code for ABSOL is available at github.com/megagonlabs/absol-bn.