OV-Foam: How 3D Representations Shape Semantic Feature Lifting
作者: Yousef Rajeh, Alejandra Esparza Pelcastre, Ivan Viola, Dominik Engel
分类: cs.CV, cs.GR
发布日期: 2026-10-20
备注: 22 pages, 10 figures, 7 tables
💡 一句话要点
提出OV-Foam以解决3D特征提升中的重叠问题
🎯 匹配领域: 支柱三:空间感知与语义 (Perception & Semantics)
关键词: 开放词汇分割 特征提升 3D重建 幂图 计算机视觉 高斯喷溅 场景划分
📋 核心要点
- 现有的特征提升方法在处理3D高斯喷溅重建时,因原始体重叠严重而导致重建效果不佳。
- 本文提出OV-Foam,通过幂图划分场景,消除原始体重叠,从而简化特征提升问题。
- 实验结果显示,OV-Foam在开放词汇分割任务上表现优于传统高斯方法,达到了接近最优的特征分配。
📝 摘要(中文)
现有的开放词汇分割特征提升方法依赖简单的反投影来将特征分配给原始体。然而,在3D高斯喷溅重建中,原始体之间重叠严重,导致重建效果不佳。为了解决这一问题,本文提出了OV-Foam,利用PowerFoam作为基础表示,通过使用幂图对场景进行划分,消除了原始体之间的重叠,显著减少了每条光线的原始体数量,从而简化了特征提升问题,实现了更接近最优的特征分配。实验结果表明,OV-Foam在开放词汇分割任务上优于高斯基线。
🔬 方法详解
问题定义:本文旨在解决现有开放词汇分割特征提升方法中,因原始体重叠导致的重建效果不佳的问题。现有方法在3D高斯喷溅重建中,多个原始体共享同一光线,造成特征分配不理想。
核心思路:OV-Foam的核心思路是利用PowerFoam表示,通过幂图对场景进行划分,确保原始体之间没有重叠,从而减少每条光线的原始体数量,简化特征提升过程。
技术框架:OV-Foam的整体架构包括场景划分模块、特征提升模块和优化模块。首先,通过幂图对场景进行划分,生成无重叠的原始体;然后,进行特征提升,最后通过优化算法实现特征的最优分配。
关键创新:OV-Foam的主要创新在于采用幂图划分场景,消除了原始体之间的重叠,这一设计与传统的反投影方法本质上不同,后者在处理重叠时效果不佳。
关键设计:在设计中,OV-Foam的幂图划分参数经过精细调整,以确保原始体的有效性和分配的准确性。同时,损失函数设计为最小化特征分配误差,以提高分割精度。
🖼️ 关键图片
📊 实验亮点
实验结果表明,OV-Foam在开放词汇分割任务中,相较于传统高斯基线,特征分配的准确性显著提高,达到了接近最优的效果,具体性能提升幅度未知。
🎯 应用场景
OV-Foam的研究成果在计算机视觉领域具有广泛的应用潜力,尤其是在自动驾驶、机器人导航和增强现实等场景中,能够提升对复杂环境的理解和处理能力。未来,该方法有望推动开放词汇分割技术的发展,促进更智能的视觉系统的实现。
📄 摘要(原文)
Existing feature lifting approaches for open-vocabulary segmentation rely on simple backprojection to assign features to primitives. In the case of 3D Gaussian splatting reconstruction, the primitives overlap heavily, leading to suboptimal reconstructions, governed by many primitives per ray. Backprojection, however, reduces to a least-squares solvable problem, exactly when no two primitives share a ray. Motivated by this insight, we propose OV-Foam, which uses PowerFoam as the underlying representation. This representation uses a power-diagram to partition the scene, resulting in zero overlap between primitives and a substantial reduction in primitives per ray, which ultimately simplifies the lifting problem and allows for closer-to-optimal feature assignment. We show that the space partitioning primitives of OV-Foam reach near-optimal assignment, and our experiments demonstrate improved open-vocabulary segmentation over Gaussian baselines.