Q-Diffusion: 量化扩散模型使用指南

最新推荐文章于 2024-09-15 08:27:18 发布

薛锨宾

最新推荐文章于 2024-09-15 08:27:18 发布

阅读量396

点赞数 3

本文链接：https://blog.csdn.net/gitblog_00960/article/details/142243753

版权

Q-Diffusion: 量化扩散模型使用指南

q-diffusion [ICCV 2023] Q-Diffusion: Quantizing Diffusion Models. 项目地址: https://gitcode.com/gh_mirrors/qd/q-diffusion

项目介绍

Q-Diffusion 是一个专为图像合成中的扩散模型设计的量化框架，由 Xiuyu Li 等人在 ICCV 2023 上提出。该框架能够在不牺牲性能的情况下，将全精度无条件扩散模型量化至4位，相比传统后训练量化（Post-Training Quantization, PTQ）方法，其FID分数变化极小（不超过2.34，而传统方法可能引起超过100的FID变化）。Q-Diffusion 通过针对扩散模型特有的多时间步处理和架构设计了一种新颖的量化方案，解决了不同时间步噪声估计网络输出分布变化以及快捷层中激活分布双峰的问题，支持训练无需求的量化，并且能够应用于文本引导的图像生成任务。

项目快速启动

环境准备

首先，您需要克隆项目仓库并设置好相应的开发环境：

git clone https://github.com/Xiuyu-Li/q-diffusion.git
cd q-diffusion
conda env create -f environment.yml
conda activate qdiff

运行示例

为了运行一个基础的示例，比如在CIFAR-10数据集上利用DDIM进行采样，首先确保已经下载了必要的预训练权重，然后执行以下命令来运行量化后的模型：

python scripts/sample_diffusion_ddim.py \
    --config configs/cifar10.yml \
    --use_pretrained \
    --timesteps 100 \
    --eta 0 \
    --skip_type quad \
    --ptq \
    --weight_bit 4 \
    --quant_mode qdiff \
    --split \
    --resume -l <输出路径> \
    --cali_ckpt <量化后的检查点路径>

请替换 <输出路径> 和 <量化后的检查点路径> 为您实际的文件路径。