WaveLLM: Wavelet-Domain LLM Entropy Modeling for Lossless Image Compression

📄 arXiv: 2610.22232v1 📥 PDF

作者: Yue Yu, Bowei Kang, Changsheng Gao, Dong Liu, Xiaoyan Sun

分类: cs.CV

发布日期: 2026-10-15

备注: Accepted at ACM Multimedia 2026 (MM '26). 10 pages, 6 figures

💡 一句话要点

提出WaveLLM以解决无损图像压缩中的熵建模问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 无损图像压缩 熵建模 小波变换 大型语言模型 自回归概率估计 图像处理 深度学习

📋 核心要点

  1. 现有的无损图像压缩方法在熵建模上存在不足，未能有效处理异构信号模式。
  2. WaveLLM通过小波变换将图像分解为多个子带，转化为更易于处理的结构化问题，从而提升熵建模的准确性。
  3. 实验结果显示，WaveLLM在多个基准数据集上均优于现有的基于PixelCNN的编码器，性能提升显著。

📝 摘要（中文）

无损图像压缩的关键在于准确的熵建模，最近的研究逐渐转向基于大型语言模型（LLM）的方法。然而，现有方法主要关注LLM的建模能力，直接将图像序列化为像素或残差序列，导致异构信号模式在单一预测流中纠缠。本文提出WaveLLM，一种基于小波域的LLM熵模型，通过将图像分解为多层小波子带，将异构预测问题转化为更结构化和统计上均匀的子问题，从而更适合自回归概率估计。WaveLLM在Kodak、CLIC.pro和DIV2K上分别实现了2.51、2.24和2.27 bpsp的性能，超越了使用相同小波变换的PixelCNN编码器。

🔬 方法详解

问题定义：本文旨在解决无损图像压缩中的熵建模问题，现有方法在处理异构信号模式时效果不佳，导致压缩效率低下。

核心思路：WaveLLM的核心思路是通过小波变换将图像分解为多个层次的小波子带，从而将复杂的预测问题转化为一组更结构化和均匀的子问题，提升模型的预测能力。

技术框架：WaveLLM的整体架构包括图像的小波分解模块、数值接口、系数预测头和任务自适应提示策略，确保模型能够在统一框架下适应不同子带的特性。

关键创新：本研究的主要创新在于引入了小波域的熵建模方法，显著改善了对异构信号的处理能力，与传统方法相比，WaveLLM能够更好地捕捉图像的统计特性。

关键设计：在设计中，WaveLLM采用了专门的数值接口，结合值嵌入和系数预测头，确保数值编码符号与LLM的文本标记空间有效对接，同时使用LoRA适应技术对Llama-3.2-3B进行优化。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

WaveLLM在Kodak、CLIC.pro和DIV2K数据集上分别达到了2.51、2.24和2.27 bpsp的性能，相较于同样使用小波变换的PixelCNN编码器，分别提升了0.43、0.36和0.46 bpsp，显示出显著的性能优势。

🎯 应用场景

WaveLLM在无损图像压缩领域具有广泛的应用潜力，能够显著提高图像存储和传输的效率，适用于医疗影像、卫星图像等对图像质量要求极高的场景。未来，该方法还可能扩展到视频压缩和其他多媒体数据处理领域。

📄 摘要（原文）

Lossless image compression fundamentally relies on accurate entropy modeling, driving a recent shift toward large language model (LLM)-based methods. However, existing approaches mainly emphasize the modeling capacity of LLMs while directly serializing images into pixel or residual sequences, leaving heterogeneous signal patterns entangled within a single prediction stream. In this paper, we argue that effective entropy modeling depends not only on model capacity, but also on the predictability of the input representation. Motivated by this insight, we propose WaveLLM, a wavelet-domain LLM-based entropy model for lossless image compression. By decomposing an image into multi-level wavelet subbands, WaveLLM converts a heterogeneous prediction problem into a set of more structured and statistically homogeneous subproblems that are more amenable to autoregressive probability estimation. To bridge numerical coding symbols with the LLM's native text token space, we introduce a dedicated numerical interface featuring value embeddings and a coefficient prediction head. Furthermore, a task-adaptive prompting strategy is designed to enable a single shared model to adapt to diverse subbands within a unified framework. Built on Llama-3.2-3B with LoRA adaptation, WaveLLM achieves 2.51, 2.24, and 2.27 bpsp on Kodak, CLIC.pro, and DIV2K, respectively, outperforming the PixelCNN-based codec using the same wavelet transform by 0.43, 0.36, and 0.46 bpsp, and surpassing recent LLM-based lossless compressors on all three benchmarks.