score-based generative models【公式推导+代码实战】

0、前言

这篇文章包含score-based generative models的公式推导以及对应的代码实战，有助于全面的理解扩散模型和基于分数的生成模型。
整个项目的代码在：https://download.csdn.net/download/qq_45934285/87635227?spm=1001.2014.3001.5501

本文主要介绍：Score-Based Generative Modeling，其简要介绍为：

通过在噪声扰动后的大规模数据集(noise-perturbed data distributions)上学习一种score functions (gradients of log probability density functions)(得分函数, 一种对梯度的对数似然估计)，用朗之万进行采样得到符合训练集的样本. 这种新的生成模型，叫做score-based generative models (or diffusion probabilistic models)

这种score-based generative model有如下的优点:

1. 可以得到GAN级别的采样效果，而无需对抗学习(adversarial training)
2. 灵活的模型结构
3. 精确的对数似然估计计算(exact log-likelihood computation)
4. 唯一可识别表征学习(uniquely identifiable representation learning)
5. 流程可逆，我理解是不需要像StyleGAN的模型训练一个featur