Hyperbolic Contrastive Learning with Model-augmentation for Knowledge-aware Recommendation
作者: Shengyin Sun, Chen Ma
分类: cs.IR, cs.AI
发布日期: 2025-05-13
备注: 18 pages
💡 一句话要点
提出基于双曲对比学习和模型增强的知识感知推荐方法，解决层级结构建模和偏好偏移问题。
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 知识感知推荐 图神经网络 对比学习 双曲空间 模型增强 层级结构 洛伦兹变换
📋 核心要点
- 现有知识感知推荐方法难以有效捕捉用户-物品图和知识图谱中的层级结构。
- 论文提出在双曲空间中进行对比学习，并引入模型增强避免结构扰动带来的偏好偏移。
- 实验结果表明，该方法在推荐性能上优于现有基线，最高提升达11.03%。
📝 摘要（中文）
本文提出了一种基于双曲对比学习和模型增强的知识感知推荐方法。现有基于图神经网络（GNN）的对比学习方法在有效捕获用户-物品二部图和知识图谱中的潜在层级结构方面存在困难。此外，它们通常通过扰动图结构来生成对比学习的正样本，这可能导致用户偏好学习的偏移。为了克服这些限制，我们设计了一种新颖的洛伦兹知识聚合机制，以更有效地表示用户和物品，从而捕获内在的层级图结构。然后，我们提出了三种模型级别的增强技术来辅助双曲对比学习。与经典的结构级别增强（例如，边丢弃）不同，所提出的模型增强可以避免增强的正样本对之间的偏好偏移。最后，我们进行了广泛的实验，证明了所提出的方法优于现有基线（最大提升11.03%）。
🔬 方法详解
问题定义：现有基于GNN的知识感知推荐方法，在处理用户-物品二部图和知识图谱时，难以有效捕捉其中固有的层级结构。此外，常用的结构扰动（如边丢弃）生成对比学习正样本的方式，可能导致用户偏好学习的偏移，影响推荐的准确性。
核心思路：论文的核心思路是在双曲空间中进行对比学习，利用双曲空间的特性来更好地建模层级结构。同时，为了避免结构扰动带来的偏好偏移，论文提出了模型增强的方法，即通过对模型本身进行扰动来生成正样本，而不是直接修改图结构。
技术框架：该方法主要包含以下几个模块：1) 洛伦兹知识聚合：利用洛伦兹变换在双曲空间中聚合知识图谱的信息，得到用户和物品的表示；2) 模型增强：采用三种模型级别的增强技术，包括参数扰动、特征扰动和梯度扰动，生成对比学习的正样本；3) 双曲对比学习：在双曲空间中进行对比学习，优化用户和物品的表示，使其更好地反映用户的偏好和物品的层级结构。
关键创新：该方法最重要的创新点在于：1) 提出了洛伦兹知识聚合机制，能够更有效地在双曲空间中表示用户和物品，从而更好地捕捉层级结构；2) 提出了模型增强的方法，避免了结构扰动带来的偏好偏移，提高了对比学习的有效性。
关键设计：洛伦兹知识聚合使用洛伦兹变换来聚合知识图谱中的信息。模型增强采用三种策略：参数扰动（对模型参数添加噪声）、特征扰动（对输入特征添加噪声）和梯度扰动（对梯度添加噪声）。对比学习损失函数采用InfoNCE损失，用于最大化正样本对之间的相似度，最小化负样本对之间的相似度。具体参数设置（如双曲空间的曲率、噪声的方差等）需要根据具体数据集进行调整。
🖼️ 关键图片
📊 实验亮点
实验结果表明，该方法在多个知识感知推荐数据集上取得了显著的性能提升。例如，在Book-Crossing数据集上，相比于现有最佳基线，该方法在Recall@20指标上提升了11.03%。实验还验证了洛伦兹知识聚合和模型增强的有效性，证明了该方法能够更好地捕捉层级结构并避免偏好偏移。
🎯 应用场景
该研究成果可应用于电商推荐、社交网络推荐、新闻推荐等多个领域。通过更准确地捕捉用户偏好和物品的层级结构，可以显著提升推荐系统的准确性和用户满意度。未来，该方法还可以扩展到其他图结构数据分析任务中，例如知识图谱补全、药物发现等。
📄 摘要（原文）
Benefiting from the effectiveness of graph neural networks (GNNs) and contrastive learning, GNN-based contrastive learning has become mainstream for knowledge-aware recommendation. However, most existing contrastive learning-based methods have difficulties in effectively capturing the underlying hierarchical structure within user-item bipartite graphs and knowledge graphs. Moreover, they commonly generate positive samples for contrastive learning by perturbing the graph structure, which may lead to a shift in user preference learning. To overcome these limitations, we propose hyperbolic contrastive learning with model-augmentation for knowledge-aware recommendation. To capture the intrinsic hierarchical graph structures, we first design a novel Lorentzian knowledge aggregation mechanism, which enables more effective representations of users and items. Then, we propose three model-level augmentation techniques to assist Hyperbolic contrastive learning. Different from the classical structure-level augmentation (e.g., edge dropping), the proposed model-augmentations can avoid preference shifts between the augmented positive pair. Finally, we conduct extensive experiments to demonstrate the superiority (maximum improvement of $11.03\%$) of proposed methods over existing baselines.