从贝叶斯公式理解扩散概率模型

快速理解扩散概率模型

注意：本文从贝叶斯公式出发理解去噪过程的原理，本文公式推导并不完全，跳过了一些繁琐运算的过程，但足够理解扩散模型的两个过程在做些什么，深入理解数学原理可以看看https://kexue.fm/archives/9119系列博客。

本文内容主要来自：

• Diffusion Model：比“GAN"还要牛逼的图像生成模型！公式推导+论文精读，迪哥打你从零详解扩散模型！
• 生成扩散模型漫谈（三）：DDPM = 贝叶斯 + 去噪

若有错误，望看官及时指正！

---

Overview

---

Process

正向加噪

从一张真实干净的$x_0$逐步加噪到$x_T$，每一步所加入的噪声比重越来越大，直至图像成为完全的高斯噪声。

整个过程是满足马尔可夫链性质（memoryless），$x_t$只与$x_{t-1}$有关（$t\in [0,T-1]$，$T$为设定的总扩散步数）：
$$x_t=\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{ϵ}_t$$
记${\beta }_t=1-{\alpha }_t$，这些都是根据$T$预设好的常数，$x_0\to x_T$加噪过程中，噪声系数开始较小，后来越来越大。
根据上式，可以进行递推：
$$x_t=\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{ϵ}_t$$
$$=\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{{\beta }_t}{ϵ}_t$$
$$=\sqrt{{\alpha }_t}(\sqrt{{\alpha }_{t-1}}{x}_{t-2}+\sqrt{{\beta }_{t-1}}{ϵ}_{t-1})+\sqrt{{\beta }_t}{ϵ}_t$$
$$=\sqrt{\prod _{k=1}^t{\alpha }_k}{x}_0+\sqrt{{\beta }_1}{ϵ}_1\prod _{k=2}^t\sqrt{{\alpha }_k}+\sqrt{{\beta }_2}{ϵ}_2\prod _{k=3}^t\sqrt{{\alpha }_k}+...+\sqrt{{\beta }_{t-1}}{ϵ}_{t-1}\prod _{k=t}^t\sqrt{{\alpha }_k}+\sqrt{{\beta }_t}{ϵ}_t$$
其中，每次加入的噪声${ϵ}_t$都是服从标准正态分布$\mathcal{N}(0,1)$，所以上式中带有噪声的每一项都可写成均值为0，标准差不同的正态分布：
$$\mathcal{N}(0,\sqrt{{\beta }_{?-1}}\prod _{k=?}^t\sqrt{{\alpha }_k}I)$$
累乘${\prod }_k^{t}x$用${\bar{x}}_k$代替表示；
多个正态分布相加或减，方差体现为相加：
$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\mathcal{N}(0,\sqrt{{\bar{\alpha }}_2{\beta }_1})+\mathcal{N}(0,\sqrt{{\bar{\alpha }}_3{\beta }_2})+\mathcal{N}(0,\sqrt{{\bar{\alpha }}_4{\beta }_3})+...+\mathcal{N}(0,\sqrt{{\alpha }_t{\beta }_{t-1}})+\mathcal{N}(0,\sqrt{{\beta }_t})$$
带入${\beta }_t=1-{\alpha }_t$，得到：
$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}{ϵ}_t$$
$$=\mathcal{N}(\sqrt{{\bar{\alpha }}_t}{x}_0,1-{\bar{\alpha }}_t)$$
所以通过正向过程，我们得到了任意时刻图像$x_t$关于原始图像$x_0$的表达式，其中$\sqrt{{\bar{\alpha }}_t}$和${\bar{\alpha }}_t$均为常数。

---

逆向去噪

我们的目标是从$x_T$得到一张尽可能真实的图像$x_0$，但也不能一蹴而就，需要一步一步从$x_t\to x_{t-1}$，由贝叶斯公式可得：
$$p(x_{t-1}|x_t)=p(x_t|x_{t-1})\frac{p(x_{t-1})}{p(x_t)}$$
发现如果不给定$x_0$，$x_t,x_{t-1}$这些都没有意义，无法计算，由于马尔科夫链的性质，我们可以加上条件$x_0$：
$$p(x_{t-1}|x_t,x_0)=p(x_t|x_{t-1},x_0)\frac{p(x_{t-1}|x_0)}{p(x_t|x_0)}$$
由正向加噪过程得到的公式，我们可将等式右边的三项均表示成正态分布的形式：
$$p(x_{t-1}|x_t)=\mathcal{N}(\sqrt{{\alpha }_t}{x}_{t-1},1-{\alpha }_t)$$
$$p(x_{t-1}|x_0)=\mathcal{N}(x_{t-1};\sqrt{{\bar{\alpha }}_{t-1}}{x}_0,1-{\bar{\alpha }}_{t-1})$$
$$p(x_t|x_0)=\mathcal{N}(x_t;\sqrt{{\bar{\alpha }}_t}{x}_0,1-{\bar{\alpha }}_t)$$
这样一来呢，根据正态分布的计算式：
$$\mathcal{N}(\mu ,{\sigma }^2)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$
我们把等式右边的正态分布都替换成上面的形式，经过一段复杂的计算后，将贝叶斯等式右边的三项进行化简并通过配方表示成正态分布的形式：
$$p(x_{t-1}|x_t,x_0)\propto e^{-\frac{1}{2}[(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}})x_{t-1}^2-(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{x}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{x}_0)x_{t-1}+C(x_t,x_0)]}$$
从而上述分布的均值可表示成：
$${\tilde{\mu }}_t(x_t,x_0)=\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{x}_0$$
可以看到，正态分布$p(x_{t-1}|x_t,x_0)$的均值${\tilde{\mu }}_t$只与$x_t,x_0$有关，但我们所求的就是$x_0$，所以显然$x_0$无法使用，这里用到了预估-修正的思想，通过正向过程得到的$x_t$关于$x_0$的表达式得到$x_0$的表达式：
$$x_0=\frac{x_t-\sqrt{1-{\bar{\alpha }}_t{ϵ}_t}}{\sqrt{{\bar{\alpha }}_t}}$$
带入可得到均值：
$${\tilde{\mu }}_t=\frac{1}{\sqrt{{\alpha }_t}}(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_t)$$

所以此时唯一未知量便是此时刻的噪声${ϵ}_t$，扩散模型做的就是这个事情，通过一个UNet结构模型来得到每个时刻的噪声预测值${\widetilde{ϵ}}_t$。

方差在很多我看的几篇工作中都是设为固定值（具体原理没有深入看），所以只要能够预测出此时噪声${\widetilde{ϵ}}_t$，我们便得到了所求的分布$p(x_{t-1}|x_t,x_0)$的均值，也便能够实现逐步$x_t\to x_{t-1}$逆推过程。

训练&推理

训练过程是包括正向加噪和反向去噪的，在正向过程中加入的噪声${ϵ}_t$将作为真实值，与反向过程的预测值${\widehat{ϵ}}_t$进行损失计算；

推理过程就不涉及正向过程了，直接从噪声开始去噪。

---