Ontology Refinement with Embeddings and LLMs: A Case Study on CASTON

📄 arXiv: 2610.21466v1 📥 PDF

作者: Hui Yang, Ziyu Li, Xuan Liu, Anders Jarfors, He Tan, Jiaoyan Chen

分类: cs.AI

发布日期: 2026-10-15

🔗 代码/项目: GITHUB

💡 一句话要点

提出基于嵌入和大语言模型的本体精炼方法以解决CASTON问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 本体精炼 知识表示 大语言模型 嵌入模型 铸造领域 生物医学 医疗

📋 核心要点

  1. 构建可靠的本体面临挑战，现有方法可能存在微妙的包含错误，影响知识表示的准确性。
  2. 提出了一种结合本体嵌入模型与大语言模型的精炼工作流程，旨在高效提取和修复本体中的错误。
  3. 实验结果显示，使用微调的OnT嵌入模型和Qwen3-8B，所有高置信度替代方案均获得领域专家的认可，验证了方法的有效性。

📝 摘要（中文）

本体在生物医学和医疗等领域广泛用于表示和组织复杂知识。然而，构建可靠的本体仍然面临挑战，因为无论是手动还是自动构建的类层次结构可能包含微妙的包含错误，需要仔细的精炼。本文研究了CASTON铸造领域本体的问题，提出了一种轻量且可扩展的精炼工作流程，该流程结合了微调的本体嵌入模型与大语言模型（LLMs）。嵌入模型用于提取有限数量的候选公理进行精炼，并提供可能的替代候选项，随后LLM返回修复建议。在一项小规模的专家评估中，使用CASTON微调的OnT嵌入模型和Qwen3-8B的默认配置产生了可靠的高置信度修复：所有六个高置信度替代方案均被领域专家接受。

🔬 方法详解

问题定义：论文要解决的问题是铸造领域本体CASTON中的类层次结构可能存在的微妙包含错误。现有方法在构建和精炼本体时，往往难以发现和修复这些错误，导致知识表示不准确。

核心思路：论文提出的核心思路是结合本体嵌入模型与大语言模型，通过嵌入模型提取候选公理和替代项，再利用LLM生成修复建议。这种设计旨在提高本体精炼的效率和准确性。

技术框架：整体架构包括两个主要模块：首先，使用微调的本体嵌入模型提取候选公理和替代项；其次，利用大语言模型生成修复建议。该流程轻量且可扩展，适用于不同领域的本体精炼。

关键创新：最重要的技术创新点在于将本体嵌入模型与大语言模型结合，形成了一种新的精炼工作流程。这与传统的手动或单一模型方法相比，显著提高了精炼的效率和准确性。

关键设计：在参数设置上，使用了CASTON特定的微调嵌入模型，并选择了Qwen3-8B作为LLM。损失函数和网络结构的具体细节未在摘要中详细说明，可能需要参考论文的完整内容以获取更多信息。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明，使用CASTON微调的OnT嵌入模型和Qwen3-8B，所有六个高置信度替代方案均被领域专家接受，验证了方法的有效性和可靠性，显示出显著的修复能力。

🎯 应用场景

该研究的潜在应用领域包括生物医学、医疗和其他需要复杂知识表示的领域。通过提高本体的准确性和可靠性，能够更好地支持知识管理、信息检索和智能决策等实际应用，未来可能对相关行业产生深远影响。

📄 摘要（原文）

Ontologies are widely used to represent and organize complex knowledge in domains such as biomedicine and healthcare. However, constructing reliable ontologies remains challenging, as class hierarchies, whether manually or automatically constructed, may contain subtle subsumption errors that require careful refinement. We study this problem in CASTON, a casting-domain ontology, and present a lightweight but scalable refinement workflow that combines a fine-tuned ontology embedding model with Large Language Models (LLMs). The embedding model is used to extract a limited number of candidate axioms for refinement together with possible replacement candidates, and an LLM then returns repair suggestions. In a small expert evaluation, the default configuration using a CASTON-fine-tuned OnT embedding model and Qwen3-8B produced reliable high-confidence repairs: all six high-confidence replacements were accepted by both domain experts. The implementation is available at https://github.com/HuiYang1997/OntRefine.