[DDIM] Denoising Diffusion Implicit Models

已于 2024-04-08 18:43:55 修改
阅读量421 收藏 8
点赞数 3
分类专栏： paper阅读笔记 文章标签： 人工智能
于 2024-04-08 18:43:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_30618203/article/details/132044308
版权
文章探讨了DDPM生成图像的原理，提出DDIM方法通过减少推理次数，显著提高采样效率，同时保持生成质量。DDIM利用非马尔可夫过程，保持训练目标不变。实验显示DDIM在速度上比传统DDPM快10到50倍，且生成过程具备确定性，适合图像插值应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1、目的

        DDPM生成图像需要模拟Markov链，因此要经过多轮推理（因为条件概率仅仅与系统的当前状态相关），且推理过程是sequentially而不是parallel的

        DDIM在不改变DDPM训练的基础上，减少了infer次数，在极大地增加了采样效率的同时，几乎不影响采样效果

2、方法

       1）DDPM的一个重要特性是

                        

                        

                因此目标函数为

                        

                该目标函数只用到q(x_{t}|x_{0})，无须q(x_{1:T}|x_{0})。因此可以选用一些non-Markovian过程，只要符合该边际分布即可。此时，训练objective不变，因此训练过程不变

                DDIM选用的non-Markovian分布下，inference过程为

                              ...... (1)

                相应的forward过程可以表示为（但其实我们不需要前传的公式了）：

                                                

        2）具体应用时，给定noisy x_{t}，先预测x_{0}，

                                                                    ...... (2)

                然后再结合公式1和公式2求解x_{t-1}

                                  

                即

                 

               其中，

                

                当\eta = 1时，是DDPM；当\eta = 0时，是DDIM (denoising diffusion implicit model)

        3）可以假定forward过程不定义在x_{1:T}上，而是递增子集{ x_{\tau_{1}}, ..., x_{\tau_{S}}}，并且符合如下边际分布

                                        

                当这个(sampling) trajectory的长度远小于T时，就可以大大提升计算效率 

3、效果

        1）10 ~ 50X faster        

        ​​​​​​​        ​​​​​​​        ​​​​​​​        ​​​​​​​        

        2）生成过程是deterministic的，一旦确定了输入，则输出也是确定的。因此可以进行图像插值

从DDPM到DDIM：深入解读《Denoising Diffusion Implicit Models》
沉迷单车的追风少年
07-10 1万+
DDIM发表在ICRL2021上，是DDPM重要的改进之一，能显著提高DDPM的样本质量、减少采样时间，并且能显式控制插值，已经被广泛应用到现在的Diffusion Models上。这篇博客和大家一起详细解读一下DDIM，认识这一伟大的模型。.........
Diffusion Model相关论文解析之(二)DENOISING DIFFUSION IMPLICIT MODELS
m0_37737957的博客
08-17 454
1、摘要 2、创新点 3、主要公式 4、自己的理解，对错不确定
扩散模型的具体类型——Denoising Diffusion Implicit Models (DDIM)
DuHz的博客
11-12 795
Denoising Diffusion Implicit Models（DDIM）是一种扩散模型的变体，旨在提高生成过程的效率和灵活性。与传统的Denoising Diffusion Probabilistic Models（DDPM）相比，DDIM通过引入确定性的逆向过程，实现了更快的采样速度，同时保持了生成样本的高质量。DDIM不仅在采样效率上有所提升，还提供了更灵活的生成控制方式，使其在图像生成、语音合成等领域具有广泛的应用前景。
Denoising Diffusion Implicit Models (DDIM)
最新发布
agito_cheung的博客
02-28 1237
因为扩散模型的正向过程可以实现跳步，其马尔科夫性并不重要，因此DDIM尝试在反向过程中也舍弃马尔科夫性的约束。在引入一个可控参数σt\sigma_tσt​后，反向过程的迭代被整理为预测x0x_0x0​后重新进行正向扩散的过程，扩散时使用的噪声为新初始化噪声与上一步预测噪声的加权，在特定σ\sigmaσ选择下，可以导出DDPM的采样过程和新的确定性的采样过程，并且使得反向过程同样支持跳步。在DDPM中，反向过程的损失函数是根据马尔科夫性推导得出的，而虽然正向过程也是马尔科夫链，但是因为高斯分布的可加性，其完全
【DDIM】Denoising Diffusion Implicit Models
2201_75801514的博客
10-10 1094
去噪扩散概率模型（DDPMs）无需对抗训练即可生成高质量图像，但它们需要模拟马尔可夫链的多个步骤才能生成样本。为了加快采样速度，我们提出了去噪扩散隐含模型（DDIMs），这是一类更高效的迭代隐含概率模型，其训练过程与 DDPMs 相同。在 DDPMs 中，生成过程被定义为特定马尔可夫扩散过程的反向。我们通过一类能达到相同训练目标的非马尔可夫扩散过程来推广 DDPMs。这些非马尔可夫过程可以对应于确定性的生成过程，从而产生能更快地生成高质量样本的隐式模型。
gDDIM: Generalized denoising diffusion implicit models
通街是密人有的博客
03-12 830
我们的目标是将去噪扩散隐式模型(DDIM)扩展到一般扩散模型(DMs)。我们没有像原来的DDIM论文那样构造一个非马尔可夫噪声过程，而是从数值的角度研究了DDIM的机制。我们发现，在求解相应的随机微分方程时，可以使用分数的某些特定近似值来获得DDIM。我们提出了DDIM加速效应的解释，这也解释了确定性抽样方案相对于快速抽样的随机方案的优势。在此基础上，我们将DDIM扩展到通用DM，在参数化分数网络方面进行了小而精细的修改。当应用于最近提出的一种新型扩散模型——临界阻尼朗之万扩散模型时，我们的算法在CIFAR
002_SSSS_ Denoising Diffusion Implicit Models
D_Trump的博客
06-24 3444
Denoising Diffusion Implicit Models 笔记
【论文速读】DDIM:DENOISING DIFFUSION IMPLICIT MODELS
weixin_43457608的博客
09-29 370
因为DDPM是遵循马尔可夫过程的，下一时刻状态取决上一时刻状态。DDIM经过变换后，让前向加噪过程成立的同时，去噪过程可以不遵循马尔可夫过程，将T=1000的序列，采样L序列（远小于T），加速推理。
【DDIM加速采样方法】公式推导加代码分析。Denoising Diffusion Implicit Models
zik的博客
03-22 1715
ICLR 2021不啰嗦，就简单介绍采样过程的均值与方差的推导。训练过程与DDPM差不多。证明部分放在最后。请注意，DDIM 论文中的αt\alpha_tαt​是指来自DDPM的αˉtαˉt​。其中ϵτiϵτi​​是随机噪声，τ\tauτ是12T12T的子序列，长度为SSS（DDPM是前置知识需要先看）
[Diffusion Model 笔记]DDIM 笔记 数学推导 Denoising Diffusion Implicit Models
YuQiao0303的博客
04-25 1853
DDIM只是一个采样的算法，其训练和DDPM是一样的。DDIM在推导采样公式时，没有用DDPM中q(xt|xt-1)的条件；同时把一个高斯噪声可以换成随机高斯噪声和预测的噪声的加权和，其中σk\sigma_kσk​是一个超参数，控制二者的权重xsαˉsx0∣k1−α‾s−σk2ϵθσkϵxs​αˉs​​x0∣k​1−αs​−σk2​​ϵθ​σk​ϵx0∣k1αˉk。
Diffusion Filtering for Image Denoising：线性扩散滤波、边缘增强线性和非线性各向异性滤波-matlab开发
06-01
各种基于扩散的图像过滤方法： 1. 使用热方程的线性扩散滤波 - 使用隐式和显式欧拉方法求解。 2.边缘增强线性各向异性扩散过滤。 3.边缘增强非线性各向异性扩散过滤。 包括测试图像的数据文件。 每个文件都是一个实现上述方法之一的脚本。 阅读评论了解详情。 版权所有 (c) Ritwik Ku​​mar，哈佛大学 2010 www.seas.harvard.edu/~rkkumar
深度学习（生成式模型）——DDIM：Denoising Diffusion Implicit Models
菜到怀疑人生的博客
10-30 6357
上一篇博文介绍了DDIM的前身DDPM。DDPM的反向过程与前向过程步数一一对应，例如前向过程有1000步，那么反向过程也需要有1000步，这导致DDPM生成图像的效率非常缓慢。本文介绍的DDIM将降低反向过程的推断步数，从而提高生成图像的效率。值得一提的是，DDIM的反向过程仍然是马尔可夫链，但论文里有讨论非马尔可夫链的生成模型。本博文只总结DDIM如何提高DDPM的生成图像效率。
一文详解Denoising Diffusion Implicit Models（DDIM）
chase
07-31 4835
一文详解Denoising Diffusion Implicit Models（DDIM）
DDIM原理及代码(Denoising diffusion implicit models)
热门推荐
andy dennis的博客
12-22 2万+
之前学习了 DDPM和 IDDPM， 这次又来学习另一种重要的扩散模型。它的采样速度比DDPM快很多(respacing)，扩散过程不依赖马尔科夫链。
DENOISING DIFFUSION IMPLICIT MODELS 论文笔记
weixin_46872424的博客
01-12 1186
相较于DDPM来说，DDIM更具更加确定性的结果，并且可以减少一定的计算时间。DDPM是可以通过改变一定的参数比如论文中的是可以互相转化的，其实也提供了另外一种模型的思路，比如也可以只用DDIM中论文的一部分来减少DDPM模型的计算时间，或者直接应用DDIM在参数上改变，看看能否对超分辨或者图像降噪等问题有新的实验发现。注意：DDIM只是在重建阶段使用，Unet训练的参数和DDPM是一样的，也就是说是通过DDPM训练参数得到的Unet模型应用到DDIM上的，这点是不变的。
Denoising diffusion implicit models 阅读笔记
icylling的专栏
09-21 642
Denoising diffusion probabilistic models (DDPMs)从马尔科夫链中采样生成样本，需要迭代多次，速度较慢。Denoising diffusion implicit models (DDIMs)的提出是为了加速采样过程，减少迭代的次数，并且要求DDIM可以复用DDPM训练的网络。
Denoising diffusion implicit models 阅读笔记2
icylling的专栏
01-25 1117
Denoising diffusion probabilistic models (DDPMs)从马尔科夫链中采样生成样本，需要迭代多次，速度较慢。Denoising diffusion implicit models (DDIMs)的提出是为了在复用DDPM训练的网络的前提下，加速采样过程。加速采样的基本思路是，原本的生成过程是从T⋯1的序列逐步采样，加速时考虑从T⋯1的子序列采样，通过跳步的方式减少采样的步数。
diffusion DDIM
12-27
### DDIM采样方法简介 DDIM (Denoising Diffusion Implicit Models) 是一种改进型的扩散模型变体，旨在减少传统扩散模型所需的迭代次数并提高样本质量。与标准扩散模型相比，DDIM采用了一种隐式的去噪过程，在前向过程中引入更少的噪声，并允许在反向生成阶段灵活调整步数。 #### 前向过程中的噪声注入 在DDIM中，前向过程同样遵循逐步增加图像噪声的原则，但是该过程可以被参数化以控制每一步加入多少新噪声[^1]： ```python def forward_process(x_0, t, beta_t): """ 定义DDIM的前向传播函数 参数: x_0 : 初始干净图片 t : 时间步长 beta_t : 方差调度参数 返回: 加入特定量级噪音后的状态 """ noise = torch.randn_like(x_0) alpha_bar_sqrt = np.sqrt(1 - np.prod(beta_t[:t])) sqrt_one_minus_alpha_bar = np.sqrt(np.prod(beta_t[:t])) xt = alpha_bar_sqrt * x_0 + sqrt_one_minus_alpha_bar * noise return xt ``` 此代码片段展示了如何基于初始输入`x_0`以及时间索引`t`来计算带有一定比例随机扰动的结果`xt`。这里的关键在于可以通过调节`beta_t`序列来改变加权方式，从而影响最终输出的质量和多样性。 #### 反向生成流程 对于逆向生成部分，DDIM提供了一个更加简洁高效的机制。不同于传统的多步骤预测修正方案，DDIM能够在较少的时间间隔内完成高质量图像重建的任务。具体来说，就是利用预训练好的网络直接估计中间时刻的状态分布而不是每次都重新学习整个转换路径[^2]: ```python def reverse_process(model, x_T, T, eta=0., shape=(1, 3, 32, 32)): """ 实现DDIM的反向生成算法 参数: model : 已经训练完毕用于指导生成过程的神经网络模型 x_T : 经过充分打乱后的全白噪声作为起点 T : 总共使用的离散时间片数量 eta : 控制探索程度超参，默认设为零表示完全决定论模式 shape : 输出张量形状 返回: 使用给定配置下由纯噪声恢复得到的目标数据集成员之一 """ img = x_T for i in reversed(range(T)): t = torch.full((shape[0],), i, device=device, dtype=torch.long) pred_noise = model(img, t).detach() # 计算均值 mu_theta 和方差 sigma_theta mean_pred = ... std_dev_term = ... if i > 0: noise = torch.randn_like(img) img = mean_pred + eta * std_dev_term * noise else: img = mean_pred return img ``` 上述伪代码描述了从完全无序的高斯噪声出发，经过一系列精心设计的操作后逐渐逼近目标域内的真实实例的过程。值得注意的是，当设置`eta=0`时，意味着每次更新都严格按照最大似然方向前进；而适当增大这个数值则可以在一定程度上增强创造性表达力的同时保持较好的视觉效果一致性。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值