Hyperbolic Graph Representation Learning: Embed in One Metric, Optimize with Another

📄 arXiv: 2610.06745v1 📥 PDF

作者: Federico Larroca, Paola Bermolen, Marcelo Fiori, Bernardo Marenco

分类: cs.LG, stat.ML

发布日期: 2026-10-05

备注: 7 pages, 2 figures

💡 一句话要点

提出超曲率图表示学习以优化嵌入与学习过程

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 超曲率图表示 优化预处理器 梯度学习 层次图 损失降低

📋 核心要点

  1. 现有的超曲率图表示学习在大半径下的梯度学习效果不佳，导致性能受限。
  2. 论文提出通过选择不同的超曲率预处理器来优化学习过程，避免了现有方法的局限性。
  3. 实验结果显示，结合两种不同曲率的预处理器，损失降低了46-74%，显著提升了学习效果。

📝 摘要（中文）

层次图在超曲率空间中的嵌入相较于欧几里得空间具有更低的失真，然而在大半径下，基于梯度的学习受到限制。本文提出了一种新的优化预处理器，通过调整超曲率的选择，改善了现有方法在大半径下的表现。实验结果表明，结合不同曲率的预处理器可以显著降低真实世界树结构的损失，提升学习效果。

🔬 方法详解

问题定义：本文旨在解决现有超曲率图表示学习在大半径下梯度学习效果不佳的问题。现有方法在此情况下表现不稳定，导致学习效率低下。

核心思路：论文提出了一种新的优化预处理器，通过选择不同的超曲率，改善了在大半径下的学习过程。这种方法允许在保持嵌入曲率为-1的同时，灵活调整学习过程中的曲率。

技术框架：整体架构包括两个阶段：首先使用欧几里得预处理器进行布局重排，然后引入中间预处理器进行精细化优化。这样可以有效结合两者的优点，提升学习效果。

关键创新：最重要的创新点在于提出了一种一参数家族的优化预处理器，允许在曲率-1到0之间选择，显著改善了现有方法的性能。与传统方法相比，这种灵活性使得学习过程更加高效。

关键设计：关键设计包括选择合适的曲率参数，以及在损失函数中引入新的优化策略，以确保在不同阶段的学习中能够有效地调整和优化模型。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明，结合不同曲率的预处理器能够将真实世界树结构的损失降低46-74%，相比于最佳单一曲率方法，显著提升了学习效果，展示了该方法的有效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括社交网络分析、生物信息学和推荐系统等。通过优化图表示学习，可以在这些领域中实现更高效的数据处理和分析，提升实际应用的效果和准确性。

📄 摘要（原文）

Hierarchical graphs embed in hyperbolic space with lower distortion than in Euclidean space owing to its negative curvature. However, their gradient-based learning is hampered at large radii, where the Poincaré ball and the Lorentz hyperboloid models fail numerically. Polar coordinates avoid this problem, but the hyperbolic metric scales the angular step by the hyperbolic sine of the radius, freezing angular motion. We observe that this factor is a choice, silently fixed by existing implementations: the Euclidean tangent parametrization, for instance, uses the radius itself. We show that other choices are not only possible but preferable. They are endpoints of a one-parameter family of optimization preconditioners with curvatures from $-1$ to $0$, while the embedding remains at curvature $-1$. We show that since the Euclidean preconditioner rearranges a layout but refines it poorly, while an intermediate one refines far better once a layout is in place, combining them in two stages reduces the loss on real-world trees by 46-74% over the best single curvature.