Mu-DisCoCat: A Variational Pipeline for Compositional Generalization on Quantum Processors
作者: Mina Abbaszadeh, Matilda Karabina Moore, Raem Haq, Martha Lewis, Mehrnoosh Sadrzadeh
分类: cs.LG, cs.CV
发布日期: 2026-10-06
💡 一句话要点
提出Mu-DisCoCat以解决量子处理器上的组合概念泛化问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 组合概念泛化 变分量子电路 多模态学习 量子计算 组合分布语义
📋 核心要点
- 组合概念泛化(CoCoGen)是AI领域的核心挑战,现有组合语义模型在学习张量时存在规模瓶颈。
- 本文提出Mu-DisCoCat框架,通过变分量子电路实现多模态学习,首先学习单对象表示,再学习多对象关系。
- 实验结果表明,该模型在经典模拟中超越了CLIP基线,并在量子设备上保持了良好的性能,展示了其实际应用潜力。
📝 摘要(中文)
实现组合概念泛化(CoCoGen),即通过重新组合学习的基本元素来理解新情况,仍然是人工智能中的一个基本挑战。组合语义模型如组合分布语义(DisCoCat)提供了解决方案,但在学习张量时存在规模瓶颈。将DisCoCat映射到变分量子电路(VQCs)解决了文本的这一限制,但尚未扩展到多模态情况。本文提出了Mu-DisCoCat:一个用于DisCoCat的多模态变分量子学习框架,能够实现CoCoGen。该框架首先从单对象图像-文本对中学习稳定的对象表示,然后固定这些表示并用于学习多对象情况下的关系。在经典模拟中,该模型使用Uhlmann状态保真度计算多模态电路表示之间的重叠,达到了比评估的CLIP基线更高的关系外部分布准确率。
🔬 方法详解
问题定义:本文旨在解决组合概念泛化(CoCoGen)的问题,现有的组合语义模型在处理多模态数据时面临学习张量的规模瓶颈。
核心思路:Mu-DisCoCat框架通过变分量子电路(VQCs)实现多模态学习,首先从单一对象的图像-文本对中学习稳定的对象表示,然后利用这些表示学习多对象之间的关系。
技术框架:该框架包括两个主要阶段:第一阶段是从单对象数据中提取稳定的对象表示,第二阶段是利用这些表示在多对象情况下学习它们之间的关系。
关键创新:最重要的创新在于将DisCoCat模型映射到变分量子电路上,从而克服了传统方法在多模态学习中的限制,提供了一种新的量子计算应用场景。
关键设计:在模型设计中,使用Uhlmann状态保真度作为衡量多模态电路表示重叠的指标,确保了模型在不同量子设备上的鲁棒性和准确性。具体的参数设置和损失函数设计未在摘要中详细说明,需查阅完整论文以获取更多细节。
🖼️ 关键图片
📊 实验亮点
实验结果显示,Mu-DisCoCat在经典模拟中使用Uhlmann状态保真度计算的重叠达到了比CLIP基线更高的关系外部分布准确率。此外,在量子设备上执行的模型与模拟保真度保持强正相关,能够可靠地区分未见的相似与不相似对。
🎯 应用场景
Mu-DisCoCat框架的潜在应用领域包括自然语言处理、计算机视觉和人机交互等多模态任务。通过实现组合概念泛化,该研究为量子计算在AI领域的应用提供了新的视角,可能推动量子机器学习的发展,提升智能系统的理解和适应能力。
📄 摘要(原文)
Achieving compositional concept generalization (CoCoGen), the ability to understand novel situations by recombining learned primitives, remains a fundamental challenge in artificial intelligence. Compositional semantic models such as Compositional Distributional Semantics (DisCoCat) offer solutions by generalising vectors to tensors, but suffer from scaling bottlenecks when learning the tensors. Mapping DisCoCat onto Variational Quantum Circuits (VQCs) resolves this limitation for text, yet the methodology has not been expanded to multimodal situations such as the ones involved in CoCoGen. This paper introduces Mu-DisCoCat: a multimodal variational quantum learning framework for DisCoCat that achieves CoCoGen. The framework first learns stable object representations from single-object image-text pairs, then fixes these and uses them to learn the relations between them in multi-object situations. In classical simulations, the model used Uhlmann state fidelity to compute the overlap between the multimodal circuit representations and achieved higher relational OOD accuracy than the evaluated CLIP baseline. Its deployment was evaluated using the destructive SWAP test across noisy quantum emulators, including a range of IBM fake backends, IQM FakeAphrodite, and the IBM Marrakesh quantum processor. Despite real-world device noise, the hardware-executed models maintained a strong positive correlation with simulated fidelities, reliably distinguishing unseen similar and dissimilar pairs. Our work establishes a framework for executing CoCoGen on VQCs, demonstrating a viable use case for near-term quantum hardware.