【论文精读SGM】Score-Based Generative Modeling through Stochastic Differential Equations
0、前言
论文地址:https://arxiv.org/abs/2011.13456
GitHub地址:https://github.com/yang-song/score_sde_pytorch
详细的代码公式介绍:score-based generative models【公式推导+代码实战】
简单的说,基于分数的模型是用随机微分方程SDE对数据进行连续的扰动。
我们注意到,不论是DDPM,还是SMLD(不懂的看下文的1、介绍),它们都存在一个共同的特性:
加噪过程和去噪过程都是离散化的,即他们按照时间步1~T离散采样。并且需要时间T 足够大,才可以保证我们最终加噪后的样本趋近于标准正态分布。
事实上,这是一个随机的过程,SDE的思想是想将这个离散的随机控制过程连续化,那么就要涉及随机微分方程(随机控制)的理论和原理了。
下面来证明无论是DDPM还是SMLD,他们都是作为SDE的离散化版本。(具体在论文的附录B)
-
首先证明DDPM的噪声扰动过程是 Variance Pres