【扩散模型】加速采样算法DDIM《Denoising Diffusion lmplicit Models》论文原理

扩散模型加速采样算法《Denoising Diffusion lmplicit Models》论文原理

2010.02502v1 (arxiv.org)

参考视频

https://www.bilibili.com/video/BV1JY4y1N7dn/?spm_id_from=333.337.search-card.all.click&vd_source=2079724dd8d1ae7a362e33b8cb653aff

https://www.bilibili.com/video/BV1ic41157Vf/?spm_id_from=333.337.search-card.all.click&vd_source=2079724dd8d1ae7a362e33b8cb653aff

简介

针对DDPM的最大的缺点——依据马尔科夫链过程，需要对图片进行逐步加噪和减噪，导致step步数太多，计算太慢，基于DDPM，DDIM主要有两项改进：

• 对于一个已经训练好的DDPM，只需要对采样公式做简单的修改，模型就能在去噪时跳步骤，在一步去噪迭代中直接预测若干次去噪后的结果。
• DDIM论文推广了DDPM的数学模型，打破了马尔科夫链的过程，从更高的视角定义了DDPM的反向过程（去噪过程）。在这个新数学模型下，我们可以自定义模型的噪声强度，让同一个训练好的DDPM有不同的采样效果。

原理和数学推导

• DDPM的损失函数特点

DDPM的损失函数$L_{simple}$只依赖于边缘分布，不直接依赖于联合分布

联合分布以什么形式出现并不会影响训练DDPM，因此可以设计非马尔科夫的扩散过程，并且保证$q({\mathbf{x}}_t|{\mathbf{x}}_0)$是一致的，则可以和DDPM共享同一个目标函数。

DDPM在推导出$L_{simple}$过程中，并没有用到$q({\mathbf{x}}_{1:T}|{\mathbf{x}}_0)$的具体形式，只是基于贝叶斯公式和$q(x_t|x_{t-1},x_0)$、$q({\mathbf{x}}_t|{\mathbf{x}}_0)$表达式。
在训练DDPM所用到的$L_{simple}$ loss中，也没有采用跟$q(x_t|x_{t-1},x_0)$相关的系数，而是直接选择将预测噪音的权重设置为1。由于噪音项是来自$q({\mathbf{x}}_t|{\mathbf{x}}_0)$的采样，因此，DDPM的目标函数其实只由$q({\mathbf{x}}_t|{\mathbf{x}}_0)$表达式决定。

因此，使用非马尔可夫性质可以更具有一般性，只要保证$q({\mathbf{x}}_t|{\mathbf{x}}_0)$的形式不变，就可以直接复用训练好的DDPM，在反向过程中使用新的概率分布来进行随机采样。

• 非马尔科夫链的前向扩散过程

作者设计了新的非马尔科夫链的前向扩散过程，定义了相同形式的分布函数来代替DDPM中基于马尔科夫性质的分布函数
$$q_{\sigma }({\mathbf{x}}_{1:T}|{\mathbf{x}}_0):=q_{\sigma }({\mathbf{x}}_T|{\mathbf{x}}_0)\prod _{t=2}^T{q}_{\sigma }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)\ast Eq.(6)\ast$$
这里$q_{\sigma }({\mathbf{x}}_T|{\mathbf{x}}_0)=\mathcal{N}(\sqrt{{\alpha }_T}{\mathbf{x}}_0,(1-{\alpha }_T)\mathbf{I})$并且当$t>1$时
$$q_{\sigma }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)=\mathcal{N}\left(\sqrt{{\alpha }_{t-1}}{\mathbf{x}}_0+\sqrt{1-{\alpha }_{t-1}-{\sigma }_t^2}\cdot \frac{{\mathbf{x}}_t-\sqrt{{\alpha }_t}{\mathbf{x}}_0}{\sqrt{1-{\alpha }_t}},{\sigma }_t^2\mathbf{I}\right)\ast Eq.(7)\ast$$
$\sigma \in {\mathbb{R}}_{\ge 0}^T$是实数向量的超参数。选择均值函数是为了确保对于所有t，都有$q_{\sigma }({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}(\sqrt{{\alpha }_t}{\mathbf{x}}_0,(1-{\alpha }_t)\mathbf{I})$，这样它就定义了一个“联合”推理分布，与期望的“边际”相匹配。前向过程可由贝叶斯规则导出:
$$q_{\sigma }({\mathbf{x}}_t|{\mathbf{x}}_{t-1},{\mathbf{x}}_0)=\frac{q_{\sigma }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)q_{\sigma }({\mathbf{x}}_t|{\mathbf{x}}_0)}{q_{\sigma }({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)}$$

可以证明对于每一个时刻$t$都能满足$q_{\sigma }({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}(\sqrt{{\alpha }_t}{\mathbf{x}}_0,(1-{\alpha }_t)\mathbf{I})$，这与DDPM每一时刻的分布是相同形式的，因此可以使用相同的目标函数。

证明过程：

与DDPM相比，随着$\sigma$的不同，高斯分布的均值和方程不同，重参数化的参数也就不同，进行的随机采样也会不一样。

• 非马尔科夫扩散逆过程的采样

与DDPM类似的过程

与DDPM一样，使用
$$f_{\theta }^{(t)}({\mathbf{x}}_t):=({\mathbf{x}}_t-\sqrt{1-{\alpha }_t}\cdot {ϵ}_{\theta }^{(t)}({\mathbf{x}}_t))/\sqrt{{\alpha }_t}$$
将$x_0$预测出来，则方向过程
$$p_{\theta }^{(t)}({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=\{\begin{array}{ll}\mathcal{N}(f_{\theta }^{(1)}({\mathbf{x}}_1),{\sigma }_1^2\mathbf{I})& \text{if}t=1\\ q_{\sigma }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,f_{\theta }^{(t)}({\mathbf{x}}_t))& \text{otherwise},\end{array}$$
可以证明$J_{\sigma }=L_{\gamma }+C$，并且优化$J_{\sigma }$就是优化了$L_{\gamma }$。

证明过程：

特殊的采样

将DDPM中的
$$P(x_{t-1}|x_t,x_0)\sim N\left(\frac{\sqrt{a_t}(1-{\overline{a}}_{t-1})}{1-{\overline{a}}_t}{x}_t+\frac{\sqrt{{\overline{a}}_{t-1}}(1-a_t)}{1-{\overline{a}}_t}\times \frac{x_t-\sqrt{1-{\overline{a}}_t}\times ϵ}{\sqrt{{\overline{a}}_t}},{\left(\sqrt{\frac{{\beta }_t(1-{\overline{a}}_{t-1})}{1-{\overline{a}}_t}}\right)}^2\right)$$
化为
$$x_{t-1}=\sqrt{{\alpha }_{t-1}}\underset{\text{“predicted }{\mathbf{x}}_0\text{”}}{\underbrace{\left(\frac{{\mathbf{x}}_t-\sqrt{1-{\alpha }_t}{ϵ}_{\theta }^{(t)}({\mathbf{x}}_t)}{\sqrt{{\alpha }_t}}\right)}}+\underset{\text{“direction pointing to }{\mathbf{x}}_t\text{”}}{\underbrace{\sqrt{1-{\alpha }_{t-1}-{\sigma }_t^2}\cdot {\mathbf{ϵ}}_{\theta }^{(t)}({\mathbf{x}}_t)}}+\underset{\text{random noise}}{\underbrace{{\sigma }_t{ϵ}_t}}$$
分割出了${\sigma }_t{ϵ}_t$一个随机噪声项。不同的$\sigma$，高斯分布的均值和方程不同，重参数化的参数也就不同，进行的随机采样也会不一样。但是对于模型来说都是预测${ϵ}_{\theta }^{(t)}(x_t)$，模型的目标函数跟$\sigma$是无关的，$\sigma$只影响采样。当${\sigma }_t=\sqrt{(1-{\alpha }_{t-1})/(1-{\alpha }_t)}\sqrt{1-{\alpha }_t/{\alpha }_{t-1}}$时，前向过程便变成了马尔科夫性质，也就退化为DDPM。

当${\sigma }_t=0$时，便丢失了随机噪声项，此时扩散过程是确定的高斯分布的随机采样。因此可以不需要每一个时刻去一步一步执行（因为是确定性的），减少采样次数，只要模型${ϵ}_{\theta }^{(t)}(x_t)$能够预测准确就能获得不错的效果。不过，${ϵ}_{\theta }^{(t)}(x_t)$很难做到一步就能预测准确，因此多次的采样是必要的。

• 采样的特殊性带来的加速采样技巧——respacing

可以选取时刻序列的一个子集 { x τ 1 , … , x τ S } \{x_{\tau_1},\ldots,x_{\tau_S}\} {xτ1​​,…,xτS​​}作为反向过程的采样，令
$${\sigma }_{{\tau }_i}(\eta )=\eta \sqrt{(1-{\alpha }_{{\tau }_{i-1}})/(1-{\alpha }_{{\tau }_i})}\sqrt{1-{\alpha }_{{\tau }_i}/{\alpha }_{{\tau }_{i-1}}}$$
当$\eta =1$时，此时为DDPM；当$\eta =0$时，${\sigma }_t=0$，此时为DDIM。

并且，如果令随机噪音的方差大于1，即令
$${\hat{\sigma }}_{{\tau }_i}=\sqrt{1-{\alpha }_{{\tau }_i}/{\alpha }_{{\tau }_{i-1}}}$$
得到不同的实验结果：

相关论文和代码下载

有时候论文网站arXiv.org打开比较慢，已经将相关论文和代码上传到网盘，需要的可以自取

链接: https://pan.baidu.com/s/1J1h8R4KyY7k6NgS2t7YOZg?pwd=3ss8

可以关注公众号：

搜索：福尔马林灌汤包