搞懂Score-based Generative Model

1 前言

本文是在参考了网上的多个高质量教程之后，对Score-based Generative Model的相关内容进行的一次梳理。
大部分内容来自B站UP主VictorYuki的视频，可以认为是学习视频内容时的笔记，参考的视频为【扩散模型 Diffusion Model 3-x】 。
文中不会涉及过于复杂的公式推导，尽量以结论性的内容为主，让读者对其整体框架有一个清晰了解。
在阅读前，建议先阅读我的另一篇博客论文阅读 - Understanding Diffusion Models: A Unified Perspective，先对DDPM有一个认知。

2 不同的生成模型

生成模型可以分为likelyhood-based models（基于似然）和implicit generative models（隐式生成）。
基于似然的模型直接对数据分布的概率密度进行学习，代表模型有VAE和normalizing flow。这类模型存在的缺点是。基于似然的模型要么需要对模型架构进行严格限制，以确保似然计算的归一化常数易于处理，要么必须依赖代理目标来近似最大似然训练。比如VAE要求经过编码器后的隐变量是一个高斯分布（这不一定符合实际情况），normalizing flow要求网络是可逆的。
隐式生成模型间接对数据分布进行拟合，代表模型为GAN。这类模型的缺点是需要对抗学习，训练不稳定，容易模式坍缩。
基于分数的模型是另一种表示概率分布的方法，它可以规避其中的几个限制。关键思想是对对数概率密度函数的梯度进行建模。这种基于分数的模型不需要有一个可处理的归一化常数，可以通过分数匹配直接学习。

3 基于分数的模型

2019年，在《Generative Modeling by Estimating Gradients of the Data Distribution》这篇文章中，宋飏博士提出了通过估计分数，也就是数据的梯度，来进行图像生成。这在当时是一种全新的图像生成方法，文章还通过加入不同强度的高斯噪声来解决ill-defined gradients问题。ill-defined gradients指的是真实数据分布中数据密度低的区域，如图3-2中的Inaccurate区域所示。
那么，这里的分数，指的是什么呢？

图3-1 分数说明图

如图3-1所示，我们令需要生成的内容为$x$，在图像生成任务中，$x$就是真实图像。$p_{\theta }(x)$就代表$x$的概率分布，${\nabla }_{x}log{p}_{\theta }(x)$就是对概率取对数后在$x$上的梯度，通常用$s_{\theta }(x)$表示。图3-2左图为真实图片集合的概率分布示意图，颜色越浅的位置，就代表概率密度越小，越深就表示概率密度越大。颜色浅的位置占大多数，几乎没有对应的真实图片数据，颜色深的位置占较少数，有大量的真实图片数据。
真实图片数据的分布呈现出大片低密度，局部高密度的特点也是比较容易理解的。直观地来设想一下，尺寸为$1024\times 1024\times 3$的图片，每个像素点存在$[0,255]$这256种可能，每个像素点位置的颜色独立，那所有的颜色可能组合就存在$256^{1024\times 1024\times 3}$种情况，真实有意义的图片，像素之间是存在联系的，这也就意味着$256^{1024\times 1024\times 3}$种组合中，大部分的图片都是真实世界不可能出现的，也就是数据概率为0或者极低的位置。

图3-2 真实数据分布示意图

那这些大片低密度区域有什么影响呢？这和我们生成模型的方式有关，生成模型也成为采样。假设我们已经训练好了一个模型，这个模型可以给我们如图3-2右图所示的每个位置的概率密度的梯度，也就是我们所说的分数。采样时，会在随机位置生成一个初始数据，然后随着梯度的方向进行移动，每一步的移动遵循朗之万动力学的迭代过程，如式3-1所示。

$$x_{i+1}\leftarrow x_i+ϵ{\nabla }_{x}logp(x)+\sqrt{2ϵ}{z}_i,i\in 0,1,...,K,\text{\hspace{1em}(3-1)}$$

其中，$z_i\sim N(0,I)$。当$ϵ\to 0$且$K\to \infty$时，从式(3-1)中得到的$x_K$收敛于真实数据分布的一个点，也即是图3-2右图中"Accurate"的一个点。$ϵ$是一个步长，${\nabla }_{x}logp(x)$是方向，$z_i$是随机扰动。
朗之万动力学迭代可以将数据点从一个任意分布走到一个目标分布，如果想要进一步了解，可以参考朗之万动力学原理简介。我们在这里就把它当成结论来用，也就是使用朗之万动力学迭代进行采样可以收敛于真实数据分布。

图3-3 朗之万动力学示意图

从采样的过程中，可以看出，分数的准确性直接影响了最终的图像生成，如果$x_i$落在图3-2中"Inaccurate"的区域，则下一步的方向很有可能是错误的。这些"Inaccurate"区域，也就是数据密度低的区域，也就是我们最开始说的ill-defined gradients区域。
这里再补充一点，缺少数据的地方预测的分数不准是和模型的损失函数有关，如下式(3-2)所示，${\nabla }_{x}logp(x)$是真实的分数，$s_{\theta }(x)$是估计分数的模型，在低密度区域的$p(x)$接近于0，对期望值没有贡献，模型也就学不到正确的分数了。

$$E_{p(x)}[||{\nabla }_{x}logp(x)-s_{\theta }(x)|{|}_2^2]=\int p(x)||{\nabla }_{x}logp(x)-s_{\theta }(x)|{|}_2^{2}dx\text{\hspace{1em}(3-2)}$$

为了解决这个问题，使用了给原始数据加噪的方式来使得估计的分数的方向更加准确。

图3-4 不同数据密度示意图

如图3-4所示，对数据进行加噪，以扩大数据的范围，从而使原本低密度的数据区域"膨胀"。这也可以认为是一种数据增广。不过加噪也有自身的问题，加噪得到的数据并属于原始数据的分布，只是接近而已，而且加的噪声越大，越偏离原始的数据分布。我们总结一下不同程度噪声的特点，较大的噪声扩大的数据范围广，但是偏离原始数据分布；较小的噪声扩大的数据范围窄，但是接近原始数据分布。
为了利用这些特点，我们可以在采样的不同阶段使用不同程度的噪声。起始阶段，噪声大，将偏远距离的点往真实数据分布的方向引导，然后噪声逐渐减小直到没有，将邻近真实数据分布的采样点往更真实准确的方向引导。这就是退火朗之万动力学迭代，具体步骤如下图3-5所示。

图3-5 退火朗之万动力学

$L$表示$L$种不同程度的噪声，随着$L$增大不断减小；$T$表示每种程度的噪声采样的步数。不难发现，当$L=1000$并且$T=1$时，就变成了DDPM。
最后我们再来看，要怎么求分数呢？
这里套用DDPM的方法，用denoising score matching的方法来求解score。
在DDPM中，有$x_t\sim N(\sqrt{{\bar{\alpha }}_t}{x}_0,(1-{\bar{\alpha }}_t)I)$的噪声假设。由于高斯分布是 f ( x ) = 1 σ 2 π e x p { − ( x − μ ) 2 2 σ 2 } f(x)=\frac{1}{\sigma \sqrt{2\pi}}exp\{-\frac{(x - \mu)^2}{2\sigma^2}\} f(x)=σ2π ​1​exp{−2σ2(x−μ)2​}，我们这里不考虑常系数的问题，将$x_t$的概率函数写作

p ( x t ) ∝ e x p { − ( x t − α ˉ t x 0 ) T ( x t − α ˉ t x 0 ) 2 ( 1 − α ˉ t ) } (3-3) p(x_t) \propto exp\{-\frac{(x_t - \sqrt{\bar{\alpha}_t}x_0)^T(x_t - \sqrt{\bar{\alpha}_t}x_0)}{2(1-\bar{\alpha}_t)}\} \tag{3-3} p(xt​)∝exp{−2(1−αˉt​)(xt​−αˉt​ ​x0​)T(xt​−αˉt​ ​x0​)​}(3-3)

对式(3-3)对$x_t$进行求导可得

$${\nabla }_{x_t}logp(x_t)=-\frac{x_t-\sqrt{{\bar{\alpha }}_t}{x}_0}{1-{\bar{\alpha }}_t}\text{\hspace{1em}(3-4)}$$
根据DDPM中的式(4-1)可以得到$x_t-\sqrt{{\bar{\alpha }}_t}{x}_0=\sqrt{1-{\bar{\alpha }}_t}ϵ$，也就是估计噪声和估计分数之间只差了一个系数。

$${\nabla }_{x_t}logp(x_t)=-\frac{ϵ}{\sqrt{1-{\bar{\alpha }}_t}}\text{\hspace{1em}(3-5)}$$

这就是根据DDPM中的式(4-11)。估计噪声就是估计分数，也就是估计数据分布的对数梯度。

4 从SDE看分数模型

2021年，在《Score-Based Generative Modeling through Stochastic Differential Equations》这篇文章中，宋飏博士又从SDE的角度重新说明了基于分数生成模型。
在一个完整的采样序列 { x T , . . . , x t , . . . , x 0 } \{x_T, ..., x_t, ..., x_0\} {xT​,...,xt​,...,x0​}中，当$t$固定时，$x_t\sim N(\sqrt{{\bar{\alpha }}_t}{x}_0,(1-{\bar{\alpha }}_t)I)$是一个随机变量；当$x$固定时，也就是完成了整个采样时， { x T , . . . , x t , . . . , x 0 } \{x_T, ..., x_t, ..., x_0\} {xT​,...,xt​,...,x0​}时一个轨迹。因此可以认为$x_t$是一个随机过程，而SDE就是描述随机过程的一个工具。
之前的描述都是以离散的方式进行描述的，使用SDE时，希望用连续的方式来描述。令$t\in [0,1]$，当$\Delta t\to 0$时，$x_t\to x_{t+\Delta t}$表示的是扩散（加噪）过程，$x_{t+\Delta t}\to x_t$表示的是采样（去噪）过程。
SDE的表达式如式(4-1)所示，其中$x$表示的是图片，或者说是噪声图，$f(x,t)dt$表示一个确定性的过程（均值），$g(t)dw$表示一个不确定的过程（方差）。

$$dx=f(x,t)dt+g(t)dw\text{\hspace{1em}(4-1)}$$

式(4-1)可以写作
$$\begin{gathered} x_{t+\Delta t}-x_t=f(x,t)\Delta t+g(t)\sqrt{\Delta t}ϵ,ϵ\sim N(0,I) \\ {x}_{t+\Delta t}=x_t+f(x,t)\Delta t+g(t)\sqrt{\Delta t}ϵ,ϵ\sim N(0,I)\text{\hspace{1em}(4-2)} \end{gathered}$$
这里将$dw$表示为$\sqrt{\Delta t}ϵ$就当成一个结论性的东西来记，想深入了解的可以去学习一下随机过程这门课。
如果将式(4-2)写作概率分布的形式，就是$p(x_{t+\Delta t}|x_t)\sim N(x_t+f(x,t)\Delta t,g^2(t)\Delta tI)$。
我们现在要用加噪的公式来推导去噪的公式，也就是求解$p(x_t|x_{t+\Delta t})$。
p ( x t ∣ x t + Δ t ) = p ( x t + Δ t ∣ x t ) p ( x t ) p ( x t + Δ t ) 贝叶斯公式 = p ( x t + Δ t ∣ x t ) e x p { l o g p ( x t ) − l o g p ( x t + Δ t ) } 取对数 对 l o g p ( x t + Δ t ) 进行二元泰勒展开 ≈ p ( x t + Δ t ∣ x t ) e x p { l o g p ( x t ) − ( l o g p ( x t ) + ( x t + Δ t − x t ) ∇ x t l o g p ( x t ) + Δ t ∂ ∂ t l o g p ( x t ) ) } = p ( x t + Δ t ∣ x t ) e x p { − ( x t + Δ t − x t ) ∇ x t l o g p ( x t ) − Δ t ∂ ∂ t l o g p ( x t ) ) } 将 p ( x t + Δ t ∣ x t ) 使用类似式 ( 3 − 3 ) 的高斯分布展开 ∝ e x p { − ( x t + Δ t − x t − f ( x t , t ) Δ t ) 2 2 g 2 ( t ) Δ t − ( x t + Δ t − x t ) ∇ x t l o g p ( x t ) − Δ t ∂ ∂ t l o g p ( x t ) ) } 这里将平方展开，并进行配方 = e x p { − 1 2 g 2 ( t ) Δ t ( ( x t + Δ t − x t ) 2 − ( x t + Δ t − x t ) ( 2 f ( x t , t ) Δ t − 2 g 2 ( t ) Δ t ∇ x t l o g p ( x t ) ) ) − Δ t ∂ ∂ t l o g p ( x t ) ) − f 2 ( x t , t ) Δ t 2 g 2 ( t ) } = e x p { − 1 2 g 2 ( t ) Δ t ( ( x t + Δ t − x t ) − ( f ( x t , t ) − g 2 ( t ) ∇ x t l o g p ( x t ) ) Δ t ) 2 − Δ t ∂ ∂ t l o g p ( x t ) ) − f 2 ( x t , t ) Δ t 2 g 2 ( t ) + ( f ( x t , t ) − g 2 ( t ) ∇ x t l o g p ( x t ) ) 2 Δ t 2 g 2 ( t ) } 当 Δ t → 0 时，后三项可以认为是 0 ，且 t ≈ t + Δ t ≈ e x p { − 1 2 g 2 ( t + Δ t ) Δ t ( ( x t + Δ t − x t ) − ( f ( x t + Δ t , t + Δ t ) − g 2 ( t + Δ t ) ∇ x t + Δ t l o g p ( x t + Δ t ) ) Δ t ) 2 } (4-3) \begin{align} p(x_t|x_{t+\Delta t}) &= \frac{p(x_{t+\Delta t}|x_t)p(x_t)}{p(x_{t+\Delta t})} {\kern 120pt} 贝叶斯公式\\ &= p(x_{t+\Delta t}|x_t) exp\{log p(x_t) - log p(x_{t+\Delta t})\} {\kern 30pt} 取对数\\ &对logp(x_{t+\Delta t})进行二元泰勒展开\\ &\approx p(x_{t+\Delta t}|x_t) exp\{log p(x_t) - (log p(x_t) + (x_{t+\Delta t} - x_t)\nabla_{x_t}logp(x_t) + \Delta t \frac{\partial}{\partial t} log p(x_t))\}\\ &=p(x_{t+\Delta t}|x_t) exp\{-(x_{t+\Delta t} - x_t)\nabla_{x_t}logp(x_t) - \Delta t \frac{\partial}{\partial t} log p(x_t))\}\\ &将p(x_{t+\Delta t}|x_t)使用类似式(3-3)的高斯分布展开\\ &\propto exp\{-\frac{(x_{t+\Delta t} - x_t - f(x_t, t)\Delta t)^2}{2g^2(t)\Delta t} - (x_{t+\Delta t} - x_t)\nabla_{x_t}logp(x_t) - \Delta t \frac{\partial}{\partial t} log p(x_t))\}\\ &这里将平方展开，并进行配方\\ &=exp\{-\frac{1}{2g^2(t)\Delta t}((x_{t+\Delta t} - x_t)^2 - (x_{t+\Delta t} - x_t)(2f(x_t, t)\Delta t - 2g^2(t)\Delta t \nabla_{x_t}logp(x_t))) \\ &- \Delta t \frac{\partial}{\partial t} log p(x_t)) - \frac{f^2(x_t, t)\Delta t}{2g^2(t)}\}\\ &=exp\{-\frac{1}{2g^2(t)\Delta t}((x_{t+\Delta t} - x_t) - (f(x_t, t) - g^2(t)\nabla_{x_t}logp(x_t))\Delta t)^2 \\ &- \Delta t \frac{\partial}{\partial t} log p(x_t)) - \frac{f^2(x_t, t)\Delta t}{2g^2(t)} + \frac{(f(x_t, t) - g^2(t)\nabla_{x_t}logp(x_t))^2\Delta t}{2g^2(t)}\}\\ &当\Delta t \rightarrow 0时，后三项可以认为是0，且t \approx t+\Delta t\\ &\approx exp\{-\frac{1}{2g^2(t+\Delta t)\Delta t} ((x_{t+\Delta t} - x_t) - (f(x_{t+\Delta t}, t+\Delta t) - g^2(t+\Delta t)\nabla_{x_{t+\Delta t}}logp(x_{t+\Delta t}))\Delta t)^2\} \end{align} \tag{4-3} p(xt​∣xt+Δt​)​=p(xt+Δt​)p(xt+Δt​∣xt​)p(xt​)​贝叶斯公式=p(xt+Δt​∣xt​)exp{logp(xt​)−logp(xt+Δt​)}取对数对logp(xt+Δt​)进行二元泰勒展开≈p(xt+Δt​∣xt​)exp{logp(xt​)−(logp(xt​)+(xt+Δt​−xt​)∇xt​​logp(xt​)+Δt∂t∂​logp(xt​))}=p(xt+Δt​∣xt​)exp{−(xt+Δt​−xt​)∇xt​​logp(xt​)−Δt∂t∂​logp(xt​))}将p(xt+Δt​∣xt​)使用类似式(3−3)的高斯分布展开∝exp{−2g2(t)Δt(xt+Δt​−xt​−f(xt​,t)Δt)2​−(xt+Δt​−xt​)∇xt​​logp(xt​)−Δt∂t∂​logp(xt​))}这里将平方展开，并进行配方=exp{−2g2(t)Δt1​((xt+Δt​−xt​)2−(xt+Δt​−xt​)(2f(xt​,t)Δt−2g2(t)Δt∇xt​​logp(xt​)))−Δt∂t∂​logp(xt​))−2g2(t)f2(xt​,t)Δt​}=exp{−2g2(t)Δt1​((xt+Δt​−xt​)−(f(xt​,t)−g2(t)∇xt​​logp(xt​))Δt)2−Δt∂t∂​logp(xt​))−2g2(t)f2(xt​,t)Δt​+2g2(t)(f(xt​,t)−g2(t)∇xt​​logp(xt​))2Δt​}当Δt→0时，后三项可以认为是0，且t≈t+Δt≈exp{−2g2(t+Δt)Δt1​((xt+Δt​−xt​)−(f(xt+Δt​,t+Δt)−g2(t+Δt)∇xt+Δt​​logp(xt+Δt​))Δt)2}​(4-3)
可以看到$p(x_t|x_{t+\Delta t})$也变成了一个高斯分布的形式，其均值为$x_{t+\Delta t}-(f(x_{t+\Delta t},t+\Delta t)-g^2(t+\Delta t){\nabla }_{x_{t+\Delta t}}logp(x_{t+\Delta t}))\Delta t$，方差为$g^2(t+\Delta t)\Delta t$。写成SDE的形式就是

$$dx=[f(x_t,t)-g^2(t){\nabla }_{x_t}logp(x_t)]dt+g(t)dw\text{\hspace{1em}(4-4)}$$

这里看不懂怎么变成式(4-4)的话，回忆一下，$dx=x_{t+\Delta t}-x_t$且$dt=\Delta t$。如果写成DDPM中的形式的话，就有

$$x_{t-1}=x_t-[f(x_t,t)-g^2(t){\nabla }_{x_t}logp(x_t)]-g(t)ϵ\text{\hspace{1em}(4-5)}$$

不难看出，如果已经知道了$f$和$g$的话，就只需要用模型对分数${\nabla }_{x_t}logp(x_t)$进行估计就可以了。
SDE中，分为VE-SDE和VP-SDE，其中VE表示的式方差爆炸variance exploding，VP表示的是方差保留variance preserving。VE-SDE对应于第三节中将的噪声条件分数网络NCSN，VP-SDE对应于DDPM。
在VE-SDE中，$x_t=x_0+{\sigma }_tϵ$且$x_{t+1}=x_t+\sqrt{{\sigma }_{t+1}^2-{\sigma }_t^2}ϵ$。当$t=T$时，${\sigma }_t$需要非常大，才能将$x_0$变成噪声图。
在VP-SDE中，$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ$且$x_{t+1}=\sqrt{1-{\beta }_{t+1}}{x}_t+\sqrt{{\beta }_{t+1}}ϵ$。当$t=T$时，${\bar{\alpha }}_t\approx 0$，完全保留了$ϵ$。
接下来看下VE-SDE和VP-SDE中的$f$和$g$分别是什么。
（1）VE-SDE
根据VE-SDE的加噪策略

$$\begin{array}{rl}{x}_{t+\Delta t}& =x_t+\sqrt{{\sigma }_{t+\Delta t}^2-{\sigma }_t^2}ϵ\\ & =x_t+\sqrt{\frac{{\sigma }_{t+\Delta t}^2-{\sigma }_t^2}{\Delta t}}\sqrt{\Delta t}ϵ\\ & =x_t+\sqrt{\frac{\Delta {\sigma }_t^2}{\Delta t}}\sqrt{\Delta t}ϵ\end{array}\text{\hspace{1em}(4-6)}$$

将式(4-6)与式(4-2)进行对照，则有

$$\begin{gathered} f(x_t,t)=0 \\ g(t)=\sqrt{\frac{d}{dt}{\sigma }_t^2}\text{\hspace{1em}(4-7)} \end{gathered}$$

（2）VP-SDE
根据VP-SDE的加噪策略

x t + 1 = 1 − β t + 1 x t + β t + 1 ϵ 构造 β ˉ i = T β i = 1 − β ˉ t + 1 T x t + β ˉ t + 1 T ϵ 当 T → ∞ 时， { β ˉ i } i = 1 T 趋近于一个函数记作 β ( t ) , t ∈ [ 0 , 1 ] 且 β ( i T ) = β ˉ i , Δ t = 1 T x t + Δ t = 1 − β ( t + Δ t ) Δ t x t + β ( t + Δ t ) Δ t ϵ 当 a 很小时，有 ( 1 − x ) a ≈ 1 − a x ≈ ( 1 − 1 2 β ( t + Δ t ) Δ t ) x t + β ( t + Δ t ) Δ t ϵ 由于 Δ t → 0 ≈ ( 1 − 1 2 β ( t ) Δ t ) x t + β ( t ) Δ t ϵ (4-8) \begin{align} x_{t+1} &= \sqrt{1 - \beta_{t+1}}x_t + \sqrt{\beta_{t+1}}\epsilon\\ &构造\bar{\beta}_i = T\beta_i\\ &=\sqrt{1 - \frac{\bar{\beta}_{t+1}}{T}}x_t + \sqrt{\frac{\bar{\beta}_{t+1}}{T}}\epsilon\\ &当T\rightarrow \infty时，\{\bar{\beta}_i\}^T_{i=1}趋近于一个函数记作\beta(t), t \in [0, 1]且\beta(\frac{i}{T})=\bar{\beta}_i, \Delta t=\frac{1}{T}\\ x_{t+\Delta t} &= \sqrt{1 - \beta(t+\Delta t) \Delta t}x_t + \sqrt{\beta(t+\Delta t)\Delta t}\epsilon\\ &当a很小时，有(1-x)^a \approx 1-ax\\ &\approx (1 - \frac{1}{2}\beta(t+\Delta t) \Delta t) x_t + \sqrt{\beta(t+\Delta t)}\sqrt{\Delta t}\epsilon\\ &由于\Delta t \rightarrow 0\\ &\approx (1 - \frac{1}{2}\beta(t) \Delta t) x_t + \sqrt{\beta(t)}\sqrt{\Delta t}\epsilon \end{align} \tag{4-8} xt+1​xt+Δt​​=1−βt+1​ ​xt​+βt+1​ ​ϵ构造βˉ​i​=Tβi​=1−Tβˉ​t+1​​ ​xt​+Tβˉ​t+1​​ ​ϵ当T→∞时，{βˉ​i​}i=1T​趋近于一个函数记作β(t),t∈[0,1]且β(Ti​)=βˉ​i​,Δt=T1​=1−β(t+Δt)Δt ​xt​+β(t+Δt)Δt ​ϵ当a很小时，有(1−x)a≈1−ax≈(1−21​β(t+Δt)Δt)xt​+β(t+Δt) ​Δt ​ϵ由于Δt→0≈(1−21​β(t)Δt)xt​+β(t) ​Δt ​ϵ​(4-8)

将式(4-8)与式(4-2)进行对照，则有

$$\begin{gathered} f(x_t,t)=-\frac{1}{2}\beta (t)x_t \\ g(t)=\sqrt{\beta (t)}\text{\hspace{1em}(4-9)} \end{gathered}$$

所以，通过指定不同的$f$和$g$，SDE就可以把基于分数的模型和DDPM统一到一个框架下。
这里补充一下，VE-SDE和VP-SDE也是可以相互转换的。
对于VE-SDE，我们有
$$\begin{array}{rl}{x}_t& =x_0+{\sigma }_tϵ\\ \frac{x_t}{\sqrt{1+{\sigma }_t^2}}& =\frac{x_0}{\sqrt{1+{\sigma }_t^2}}+\frac{{\sigma }_t}{\sqrt{1+{\sigma }_t^2}}ϵ\\ 令{\hat{x}}_t=\frac{x_t}{\sqrt{1+{\sigma }_t^2}}& ,\sqrt{{\bar{\alpha }}_t}=\frac{1}{\sqrt{1+{\sigma }_t^2}}则\sqrt{1-{\bar{\alpha }}_t}=\frac{{\sigma }_t}{\sqrt{1+{\sigma }_t^2}}\\ {\hat{x}}_t& =\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ\end{array}\text{\hspace{1em}(4-10)}$$

这样就变成了VP-SDE的形式。

5 guided diffusion

我们现在在模型的输入中加入一个条件$y$，$y$在这里讲的是一个类别。要想让条件发挥其作用，一个非常直观的做法就是将分数${\nabla }_{x_t}logp(x_t)$变为${\nabla }_{x_t}logp(x_t|y)$。根据贝叶斯公式，有

$$\begin{array}{rl}{\nabla }_{x_t}logp(x_t|y)& ={\nabla }_{x_t}log\frac{p(y|x_t)p(x_t)}{p(y)}\\ & ={\nabla }_{x_t}logp(y|x_t)+{\nabla }_{x_t}logp(x_t)\end{array}\text{\hspace{1em}(5-1)}$$

其中的后一项${\nabla }_{x_t}logp(x_t)$就是没有条件时的分数$s_{\theta }(x_t,t)$，有条件其实就是增加了一项${\nabla }_{x_t}logp(y|x_t)$来对原来的生成方式进行引导。
将$p(y|x_t)$建模为一个分类器，该分类器输入$x_t$和$t$，输出类别$y$。其代码实现为

def cond_fn(x, t, y=None):
    assert y is not None
    with th.enable_grad():
        x_in = x.detach().requires_grad_(True)
        logits = classifier(x_in, t)
        log_probs = F.log_softmax(logits, dim=-1)
        selected = log_probs[range(len(logits)), y.view(-1)]
        return th.autograd.grad(selected.sum(), x_in)[0] * args.classifier_scale

分类器引导的条件生成就是多了这一样，非常直观明了。

参考资料

[1] 【扩散模型 Diffusion Model 3-1 Score-based Model】的3-1~3-5
[2] Generative Modeling by Estimating Gradients of the Data Distribution