Diffusion Model（2）：前向扩散过程和逆向降噪过程

Diffusion Model（2）：前向扩散过程和逆向降噪过程

​

​ 观看本文之前建议先观看以下文章：

• Diffusion Model（1）：预备知识

​ 在推导过程中会参考其中中的一些公式，使用到的公式都会标注出来。

​ Diffusion Models（扩散模型）包含以下三类:

• diffusion probabilistic models 扩散概率模型 Sohl-Dickstein et al., 2015
• noise-conditioned score network 噪声条件分数网络 (NCSN; Yang & Ermon, 2019)
• denoising diffusion probabilistic models去噪扩散概率模型 (DDPM; Ho et al. 2020)。

​ 本文以2020年Ho等人的DDPM为例，其包含了前向扩散过程和反向的扩散过程。

​ 其中，前向扩散过程是为了将复杂的分布转化为一个简单的分布。而反向扩散过程则是从简单分布逆转得到复杂分布。

Forward diffusion process

​ 扩散（Diffusion）在热力学中指细小颗粒从高密度区域扩散至低密度区域，在统计领域，扩散则指将复杂的分布转换为一个简单的分布的过程。

​ Diffusion模型定义了一个概率分布转换模型$\mathcal{T}$，能将原始数据$x_0$构成的复杂分布$q_{\mathrm{complex}}$转换为一个简单的已知参数的先验分布$p_{\mathrm{prior}}$：
$$\begin{array}{c}{\mathbf{x}}_0\sim q_{\mathrm{complex}}⟹\mathcal{T}({\mathbf{x}}_0)\sim p_{\mathrm{prior}}\end{array}$$
​ 具体来说，Diffusion模型提出可以用马尔科夫链(Markov Chain)来构造$\mathcal{T}$，即定义一系列条件概率分布 q ( x t ∣ x t − 1 ) t ∈ { 1 , 2 , 3... T } q(\mathbf{x}_t \vert \mathbf{x}_{t-1})\quad t\in\{1,2,3...T\} q(xt​∣xt−1​)t∈{ 1,2,3...T}，将${\mathbf{x}}_0$依次转换为${\mathbf{x}}_1$，${\mathbf{x}}_2$$,...,{\mathbf{x}}_{\mathbf{T}}$，希望当$T\to \inf$时，${\mathbf{x}}_T\sim p_{\text{prior }}$。

​ 为了简洁和有效，此处的$p_{\text{prior }}$选择高斯分布,因此整个前向扩散过程可以被看作是，在$T$步内，不断添加少量的高斯噪声到样本中。
$$\begin{array}{c}\begin{array}{c}q\left({\mathbf{x}}_t|{\mathbf{x}}_{t-1}\right)=\mathcal{N}\left({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathrm{I}\right)\\ q\left({\mathbf{x}}_{1:T}|{\mathbf{x}}_0\right)={\prod }_{t=1}q\left({\mathbf{x}}_t|{\mathbf{x}}_{t-1}\right)\\ q\left({\mathbf{x}}_T\right)=p_{\text{prior }}\left({\mathbf{x}}_T\right)=\mathcal{N}\left({\mathbf{x}}_T;0,\mathrm{I}\right)\text{ where }T\to \inf \end{array}\end{array}$$
​ 即已知${\mathbf{x}}_{\mathbf{t}-1}$的时候，${\mathbf{x}}_{\mathbf{t}}$的概率分布为一个平均值为$\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}$，方差为${\beta }_{t}I$的高斯分布。随着$T$的不断增大，最终数据分布变成了一个简单固定的高斯分布。

​ 然后对公式2使用Diffusion Model（1）：预备知识中提到的重参数化技巧（以下Diffusion Model（1）：预备知识中的公式用1-xx代替）进行重参数化可以得到：
$$\begin{array}{c}{\mathbf{x}}_t=\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}+\sqrt{{\beta }_t}{\mathbf{z}}_{t-1}\text{ where }{\mathbf{z}}_{t-1}\in \mathcal{N}(0,\mathbf{I})\end{array}$$
​ 这一过程即将高斯分布采样的过程变成了将${\mathbf{x}}_{\mathbf{t}-1}$与标准高斯分布噪声$\mathbf{z}$混合，扩散率系数${\beta }_t$控制融合${\mathbf{x}}_{\mathbf{t}-1}$分布和标准高斯分布的比例。

​ 设${\alpha }_t=1-{\beta }_t$以及${\bar{\alpha }}_t={\prod }_{i=1}^t{\alpha }_i$，那么公式3就变成了：
$$\begin{array}{c}\begin{array}{rlr}{\mathbf{x}}_t& =\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{z}}_{t-1}& ;\text{ where }{\mathbf{z}}_{t-1},{\mathbf{z}}_{t-2},\cdots \sim \mathcal{N}(0,\mathbf{I})\\ & =\sqrt{{\alpha }_t}(\sqrt{{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{z}_{t-2})+\sqrt{1-{\alpha }_t}{z}_{t-1}& \\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\sqrt{{\alpha }_t(1-{\alpha }_{t-1})}{z}_{t-2}+\sqrt{1-{\alpha }_t}{z}_{t-1}& \\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}{\alpha }_t}{\bar{z}}_{t-2}& ;\text{ where }{\bar{\mathbf{z}}}_{t-2},{\bar{\mathbf{z}}}_{t-3},\cdots \sim \mathcal{N}(0,\mathbf{I})\\ & =\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{z}& \end{array}\end{array}$$
​ 其中公式4从第一行到第二行是将${\mathbf{x}}_{\mathbf{t}-1}$继续利用重参数化技巧展开，而从第三行到第四行利用了当两个高斯分布$\mathcal{N}\left(0,{\sigma }_1^2\mathbf{I}\right)$和$\mathcal{N}\left(0,{\sigma }_2^2\mathbf{I}\right)$相加时，新的分布为$\mathcal{N}(0,({\sigma }_1^2$