Separating Angular Alignment from Radial Ordering in Hyperbolic Vision-Language Models

📄 arXiv: 2610.32146v1 📥 PDF

作者: Mingyang Gao, Yuwei Wu, Shiyu Luo, Wei Wu, Xiaomeng Fan, Qihao Lv, Haoyu Zhang, Rui Gao, Bingzhen Liu, Zhi Gao, Che Sun

分类: cs.CV

发布日期: 2026-10-23

备注: 34 pages, 12 figures

💡 一句话要点

提出AURORA框架以解决超曲面视觉语言模型的目标耦合问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 超曲面模型 视觉语言 多模态学习 层次结构 对比学习 语义对齐 蕴含建模

📋 核心要点

  1. 现有的超曲面视觉语言模型在语义对齐与蕴含建模上存在耦合问题，导致几何约束冲突。
  2. 本文提出AURORA框架，通过角度对齐和径向-角度顺序锥（RAOC）解耦目标，优化模型性能。
  3. 实验结果表明，AURORA在零-shot分类和图像-文本检索等任务中显著优于现有基线，验证了其有效性。

📝 摘要（中文）

超曲面视觉语言模型适合建模多模态数据的层次结构，但现有的预训练目标将语义对齐与蕴含建模混合，导致径向坐标同时编码语义匹配和层次结构，从而产生几何约束冲突。本文提出AURORA框架，通过角度对齐和新颖的径向-角度顺序锥（RAOC）解耦目标，角度对齐捕捉语义相似性，同时保持层次表示的径向结构。RAOC根据相对父子径向间隙确定角度容许度，并融入层次蕴含对比训练以捕捉部分顺序关系。我们在数百万对图像-文本上训练模型，并在零-shot分类、图像-文本检索、层次推理和组合理解等任务中评估，结果显示模型在多个基准上超越了强大的欧几里得和超曲面视觉语言基线。

🔬 方法详解

问题定义：本文旨在解决现有超曲面视觉语言模型中语义对齐与蕴含建模的耦合问题，导致径向坐标无法有效表示层次结构和语义匹配。

核心思路：提出AURORA框架，通过角度对齐与径向-角度顺序锥（RAOC）解耦目标，使得模型能够独立捕捉语义相似性与层次结构。

技术框架：AURORA框架包括角度对齐模块和RAOC模块，前者用于捕捉语义相似性，后者用于层次蕴含建模，整体流程通过对比训练优化模型性能。

关键创新：RAOC是本文的核心创新，它通过相对父子径向间隙来确定角度容许度，与传统的蕴含锥相比，能够更好地捕捉部分顺序关系。

关键设计：在模型训练中引入了范数正则化项，以防止径向退化，确保训练的稳定性，同时采用了对比损失函数来优化角度对齐与层次结构的表示。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在实验中，AURORA模型在零-shot分类和图像-文本检索任务中表现优异，相比于强大的欧几里得和超曲面视觉语言基线，性能提升幅度达到XX%（具体数据未知），验证了其有效性和优势。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、计算机视觉和多模态学习等。AURORA框架能够有效处理复杂的层次结构数据，提升图像-文本检索、分类和推理等任务的性能，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Hyperbolic vision-language models are well suited to modeling the hierarchical structure of multimodal data, because hyperbolic volume grows exponentially with radius, enabling low-distortion representations of tree-like taxonomies from general to specific concepts. However, existing pretraining objectives for hyperbolic vision-language models entangle semantic alignment with entailment modeling, forcing radial coordinates to simultaneously encode semantic matching and hierarchical structure, leading to conflicting geometric constraints. In this paper, we introduce AURORA, a hyperbolic vision-language framework that decouples the objectives through angular alignment and a novel Radial-Angular Order Cone (RAOC) for entailment modeling. Angular alignment captures semantic similarity while preserving the radial structure for representing hierarchies. Unlike conventional entailment cones, RAOC determines angular allowance from relative parent-child radial gaps. It is incorporated into hierarchical entailment contrastive training to capture partial-order relations. We further introduce a norm regularization term that prevents undesirable radial degeneration for stable training. We train models on millions of image-text pairs and evaluate them across zero-shot classification, image-text retrieval, hierarchical reasoning, and compositional understanding. Our model consistently outperforms strong Euclidean and hyperbolic vision-language baselines, demonstrating the effectiveness of decoupling semantic alignment from hierarchical entailment modeling.