Let ViT Speak: Generative Language-Image Pre-training

📄 arXiv: 2605.00809v1 📥 PDF

作者: Yan Fang, Mengcheng Lan, Zilong Huang, Weixian Lei, Yunqing Zhao, Yujie Zhong, Yingchen Yu, Qi She, Yao Zhao, Yunchao Wei

分类: cs.CV

发布日期: 2026-05-01

备注: 24 pages, 9 figures

💡 一句话要点

GenLIP：面向多模态大语言模型的生成式语言-图像预训练框架

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态学习 视觉语言预训练 生成式模型 Vision Transformer 大语言模型 图像理解 OCR 图表理解

📋 核心要点

  1. 现有视觉-语言预训练方法通常依赖对比学习或额外的文本解码器，增加了复杂性且限制了与自回归LLM的对齐。
  2. GenLIP通过训练ViT直接预测语言tokens，简化了预训练流程，并更好地与LLM的自回归特性对齐。
  3. GenLIP在多种多模态任务上取得了优异的性能，尤其是在细节敏感的任务上，证明了其有效性和潜力。

📝 摘要（中文）

本文提出了一种名为生成式语言-图像预训练（GenLIP）的极简生成式预训练框架，专为多模态大语言模型（MLLM）中的Vision Transformer（ViT）设计。为了更好地将视觉编码器与LLM的自回归特性对齐，GenLIP训练ViT直接从视觉tokens预测语言tokens，使用标准的语言建模目标，无需对比批次构建或额外的文本解码器。这种设计具有三个关键优势：（1）简单性：单个transformer联合建模视觉和文本tokens；（2）可扩展性：它能有效地随数据和模型大小扩展；（3）性能：它在各种多模态基准测试中取得了有竞争力的或更优越的结果。在来自Recap-DataComp-1B的80亿样本上训练后，GenLIP在使用了明显更少的预训练数据的情况下，匹配或超过了强大的基线。在以原始宽高比对多分辨率图像进行持续预训练后，GenLIP进一步改进了对细节敏感的任务，如OCR和图表理解，使其成为MLLM中视觉编码器的强大基础。

🔬 方法详解

问题定义：现有的视觉-语言预训练方法，例如CLIP，通常依赖于对比学习，需要构建正负样本对，计算复杂度高。而一些生成式方法则需要额外的文本解码器，增加了模型的复杂性。这些方法与自回归语言模型的对齐不够直接，限制了其在多模态大语言模型中的应用。

核心思路：GenLIP的核心思路是采用一种更简洁的生成式预训练方法，直接训练ViT从视觉tokens预测语言tokens。通过这种方式，视觉编码器可以更好地与自回归语言模型的特性对齐，从而简化了预训练流程，并提高了模型的性能。

技术框架：GenLIP的整体框架包括一个ViT视觉编码器和一个Transformer语言模型。ViT将输入图像编码成视觉tokens，然后将这些tokens输入到Transformer语言模型中，语言模型以自回归的方式预测下一个语言token。整个过程使用标准的语言建模目标进行训练。

关键创新：GenLIP的关键创新在于其简洁的生成式预训练方法，它避免了对比学习和额外的文本解码器，直接将视觉编码器与语言模型对齐。这种方法不仅简化了预训练流程，还提高了模型的性能和可扩展性。

关键设计：GenLIP的关键设计包括：1) 使用标准的语言建模目标进行训练；2) 直接从视觉tokens预测语言tokens；3) 在多分辨率图像上进行持续预训练，以提高模型对细节的感知能力。论文使用了Recap-DataComp-1B数据集进行预训练，并针对OCR和图表理解等任务进行了优化。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

GenLIP在80亿样本上训练后，在多个多模态基准测试中取得了有竞争力的或更优越的结果，超过了使用更多数据的基线模型。通过在多分辨率图像上进行持续预训练，GenLIP在OCR和图表理解等细节敏感任务上取得了显著的性能提升，证明了其在处理复杂视觉信息方面的优势。

🎯 应用场景

GenLIP作为一种强大的视觉编码器，可以广泛应用于多模态大语言模型中，例如图像描述、视觉问答、文档理解等。其在细节敏感任务上的优异表现，使其在OCR、图表理解等领域具有重要的应用价值。未来，GenLIP有望成为构建更智能、更通用的多模态人工智能系统的关键组成部分。

📄 摘要（原文）

In this paper, we present \textbf{Gen}erative \textbf{L}anguage-\textbf{I}mage \textbf{P}re-training (GenLIP), a minimalist generative pretraining framework for Vision Transformers (ViTs) designed for multimodal large language models (MLLMs). To better align vision encoders with the autoregressive nature of LLMs, GenLIP trains a ViT to predict language tokens directly from visual tokens using a standard language modeling objective, without contrastive batch construction or an additional text decoder. This design offers three key advantages: (1) \textbf{Simplicity}: a single transformer jointly models visual and textual tokens; (2) \textbf{Scalability}: it scales effectively with both data and model size; and (3) \textbf{Performance}: it achieves competitive or superior results across diverse multimodal benchmarks. Trained on 8B samples from Recap-DataComp-1B, GenLIP matches or surpasses strong baselines despite using substantially less pretraining data. After continued pretraining on multi-resolution images at native aspect ratios, GenLIP further improves on detail-sensitive tasks such as OCR and chart understanding, making it a strong foundation for vision encoders in MLLMs.