（三）3. 深度生成模型-扩散模型(基于分数匹配的随机微分方程生成建模)

我们提出了一个随机微分方程（SDE），通过缓慢注入噪声，将复杂的数据分布平滑地转换为已知的先验分布，以及一个相应的反向时间SDE，通过缓慢去除噪声将先验分布转换回数据分布。反向时间SDE的生成取决于关于得分（即扰动数据分布的时间相关梯度场）的目标函数。通过利用基于得分（Score-Based）的生成建模方法，我们可以使用神经网络准确地估计这些分数，然后使用数值SDE解算器生成样本。

该框架封装了基于得分的生成建模和扩散概率建模，产生新的采样过程和新的建模能力。

在求解反向时间SDE中，

• 我们引入了一个预测-校正框架来校正离散化反向时间SDE演化中的误差。
• 我们还推导出了一个等效的神经ODE，它从与SDE相同的分布中进行采样，但还可以进行精确的似然计算，并提高采样效率。
• 我们还提供了一种使用基于得分的模型解决反向问题的新方法，正如类条件生成、图像修复和彩色化的实验所证明的那样。

结合多种架构改进，我们在CIFAR-10上实现了创纪录的无条件图像生成性能，初始得分为9.89，FID为2.20，竞争似然为2.99 bits/dim，并首次从基于得分的生成模型中演示了图像的高保真