Lightweight Inference-Time Personalization for Frozen Knowledge Graph Embeddings

📄 arXiv: 2512.22398v1 📥 PDF

作者: Ozan Oguztuzun, Cerag Oguztuzun

分类: cs.AI

发布日期: 2025-12-26


💡 一句话要点

提出GatedBias,用于冻结知识图谱嵌入的轻量级推理时个性化

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 知识图谱嵌入 个性化推荐 链接预测 推理时个性化 结构门控 因果可验证性

📋 核心要点

  1. 现有知识图谱嵌入模型缺乏捕捉个体用户偏好的能力,导致个性化推荐效果不佳。
  2. GatedBias通过引入结构门控适应机制,在推理时对冻结的知识图谱嵌入进行个性化调整。
  3. 实验表明,GatedBias在保持群体性能的同时,显著提升了个性化对齐指标,并具有因果可验证性。

📝 摘要(中文)

知识图谱(KG)的基础模型在链接预测中实现了强大的群体层面性能,但未能捕捉到个体用户的偏好;这是通用关系推理和个性化排序之间的一个关键脱节。我们提出了GatedBias,一个轻量级的推理时个性化框架,它在不重新训练或损害全局准确性的情况下,使冻结的KG嵌入适应于个体用户环境。我们的方法引入了结构门控适应:特定于profile的特征与图导出的二元门结合,产生可解释的、每个实体的偏差,仅需要约300个可训练的参数。我们在两个基准数据集(Amazon-Book和Last-FM)上评估了GatedBias,证明了在保持群体性能的同时,对齐指标的统计显著改进。反事实扰动实验验证了因果响应性;受益于特定偏好信号的实体在这些信号被增强时显示出6-30倍的排名提升。这些结果表明,基础模型的个性化适应既可以是参数高效的,也可以是因果可验证的,从而将通用知识表示与个体用户需求联系起来。

🔬 方法详解

问题定义:现有知识图谱嵌入模型在链接预测任务中表现出色,但主要关注群体层面的通用知识,忽略了个体用户的特定偏好。这导致模型在个性化推荐等场景中表现不佳,无法有效捕捉用户的兴趣和需求。现有方法通常需要重新训练整个模型,计算成本高昂,且容易影响模型的通用性。

核心思路:GatedBias的核心思路是在推理阶段,通过轻量级的参数调整,将冻结的知识图谱嵌入适配到个体用户的上下文。它利用用户的profile信息和知识图谱的结构信息,生成特定于用户的实体偏差,从而实现个性化推荐。这种方法避免了重新训练整个模型,降低了计算成本,并保留了模型的通用知识。

技术框架:GatedBias的整体框架包括以下几个主要模块:1) 用户Profile特征提取:从用户的历史行为或属性中提取特征,例如用户购买过的商品、听过的音乐等。2) 知识图谱结构信息提取:利用知识图谱的结构信息,例如实体之间的关系类型,生成二元门。3) 结构门控适应:将用户Profile特征和知识图谱结构信息结合,生成特定于用户的实体偏差。4) 链接预测:将实体偏差添加到冻结的知识图谱嵌入中,进行链接预测,从而实现个性化推荐。

关键创新:GatedBias最重要的技术创新点是结构门控适应机制。该机制利用知识图谱的结构信息,生成二元门,控制用户Profile特征对实体偏差的影响。这种方法不仅可以实现个性化推荐,还可以提高模型的可解释性。通过分析二元门的值,可以了解用户Profile特征对实体偏差的影响程度,从而更好地理解用户的偏好。

关键设计:GatedBias的关键设计包括:1) 轻量级的参数设置:GatedBias仅需要约300个可训练的参数,大大降低了计算成本。2) 结构门控适应机制:该机制利用知识图谱的结构信息,生成二元门,控制用户Profile特征对实体偏差的影响。3) 损失函数:GatedBias使用标准的链接预测损失函数,例如负采样损失函数。

🖼️ 关键图片

fig_0

📊 实验亮点

GatedBias在Amazon-Book和Last-FM两个基准数据集上进行了评估,实验结果表明,GatedBias在保持群体性能的同时,显著提升了个性化对齐指标。反事实扰动实验验证了GatedBias的因果响应性,受益于特定偏好信号的实体在这些信号被增强时显示出6-30倍的排名提升。这些结果表明,GatedBias可以有效地捕捉个体用户的偏好,并具有良好的可解释性。

🎯 应用场景

GatedBias可应用于个性化推荐系统、信息检索、社交网络分析等领域。例如,在电商平台中,可以利用GatedBias根据用户的购买历史和浏览行为,推荐用户可能感兴趣的商品。在社交网络中,可以利用GatedBias根据用户的社交关系和兴趣爱好,推荐用户可能感兴趣的内容。该研究有助于提升推荐系统的准确性和用户体验,并为知识图谱嵌入的个性化应用提供新的思路。

📄 摘要(原文)

Foundation models for knowledge graphs (KGs) achieve strong cohort-level performance in link prediction, yet fail to capture individual user preferences; a key disconnect between general relational reasoning and personalized ranking. We propose GatedBias, a lightweight inference-time personalization framework that adapts frozen KG embeddings to individual user contexts without retraining or compromising global accuracy. Our approach introduces structure-gated adaptation: profile-specific features combine with graph-derived binary gates to produce interpretable, per-entity biases, requiring only ${\sim}300$ trainable parameters. We evaluate GatedBias on two benchmark datasets (Amazon-Book and Last-FM), demonstrating statistically significant improvements in alignment metrics while preserving cohort performance. Counterfactual perturbation experiments validate causal responsiveness; entities benefiting from specific preference signals show 6--30$\times$ greater rank improvements when those signals are boosted. These results show that personalized adaptation of foundation models can be both parameter-efficient and causally verifiable, bridging general knowledge representations with individual user needs.