WaveLLM: Wavelet-Domain LLM Entropy Modeling for Lossless Image Compression

📄 arXiv: 2610.22232v2 📥 PDF

作者: Yue Yu, Bowei Kang, Changsheng Gao, Dong Liu, Xiaoyan Sun

分类: cs.CV

发布日期: 2026-10-15 (更新: 2026-10-16)

备注: Accepted at ACM Multimedia 2026 (MM '26). 10 pages, 6 figures. Abstract wording corrected to avoid automatic URL conversion; paper unchanged

💡 一句话要点

提出WaveLLM以解决无损图像压缩中的熵建模问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 无损图像压缩 熵建模 小波变换 大型语言模型 自回归概率估计 数值接口 任务自适应提示

📋 核心要点

  1. 现有的无损图像压缩方法在熵建模上存在不足，未能有效处理异构信号模式。
  2. WaveLLM通过小波变换将图像分解为多个子带，转化为更易于预测的结构化问题，从而提升熵建模效果。
  3. 在Kodak、CLIC Pro和DIV2K等基准测试中，WaveLLM的性能超越了同类方法，显示出显著的提升。

📝 摘要（中文）

无损图像压缩的核心在于准确的熵建模，近期研究逐渐转向基于大型语言模型（LLM）的方法。然而，现有方法主要关注LLM的建模能力，直接将图像序列化为像素或残差序列，导致异构信号模式在单一预测流中交织。本文提出WaveLLM，一种基于小波域的LLM熵模型，通过将图像分解为多级小波子带，将异构预测问题转化为更结构化和统计上均匀的子问题，从而更适合自回归概率估计。我们还引入了专用的数值接口和任务自适应提示策略，使单一模型能够适应不同子带。WaveLLM在多个基准测试中表现优异，超越了现有的基于PixelCNN的编解码器。

🔬 方法详解

问题定义：本文旨在解决无损图像压缩中的熵建模问题，现有方法在处理异构信号模式时效果不佳，导致压缩效率低下。

核心思路：WaveLLM的核心思路是通过小波变换将图像分解为多个结构化的子带，从而将复杂的异构预测问题转化为更简单的子问题，提升模型的预测能力。

技术框架：WaveLLM的整体架构包括图像的小波分解模块、数值接口、系数预测头和任务自适应提示策略，形成一个统一的框架以处理不同子带。

关键创新：最重要的创新在于将小波变换与LLM结合，利用小波域的结构化特性来增强熵建模的效果，这与传统的直接像素序列化方法有本质区别。

关键设计：在设计中，WaveLLM引入了数值嵌入和系数预测头，以便将数值编码符号与LLM的文本标记空间连接，同时采用LoRA适应技术以优化模型性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

WaveLLM在Kodak、CLIC Pro和DIV2K基准测试中分别达到了2.51、2.24和2.27 bpsp的性能，相较于同样使用小波变换的PixelCNN编解码器，分别提升了0.43、0.36和0.46 bpsp，显示出其在无损图像压缩中的显著优势。

🎯 应用场景

该研究在无损图像压缩领域具有广泛的应用潜力，能够有效提升图像存储和传输效率，适用于医疗影像、卫星图像等需要高保真度的场景。未来，WaveLLM的技术也可能扩展到其他信号处理领域，推动相关技术的发展。

📄 摘要（原文）

Lossless image compression fundamentally relies on accurate entropy modeling, driving a recent shift toward large language model (LLM)-based methods. However, existing approaches mainly emphasize the modeling capacity of LLMs while directly serializing images into pixel or residual sequences, leaving heterogeneous signal patterns entangled within a single prediction stream. In this paper, we argue that effective entropy modeling depends not only on model capacity, but also on the predictability of the input representation. Motivated by this insight, we propose WaveLLM, a wavelet-domain LLM-based entropy model for lossless image compression. By decomposing an image into multi-level wavelet subbands, WaveLLM converts a heterogeneous prediction problem into a set of more structured and statistically homogeneous subproblems that are more amenable to autoregressive probability estimation. To bridge numerical coding symbols with the LLM's native text token space, we introduce a dedicated numerical interface featuring value embeddings and a coefficient prediction head. Furthermore, a task-adaptive prompting strategy is designed to enable a single shared model to adapt to diverse subbands within a unified framework. Built on Llama-3.2-3B with LoRA adaptation, WaveLLM achieves 2.51, 2.24, and 2.27 bpsp on Kodak, CLIC Pro, and DIV2K, respectively, outperforming the PixelCNN-based codec using the same wavelet transform by 0.43, 0.36, and 0.46 bpsp, and surpassing recent LLM-based lossless compressors on all three benchmarks.