score-based model论文解读

不囍IU

已于 2024-04-07 18:06:54 修改

阅读量980

点赞数 19

分类专栏： # Paper 文章标签：深度学习

于 2024-04-07 18:05:57 首次发布

本文链接：https://blog.csdn.net/qq_51221943/article/details/137464508

版权

Paper 专栏收录该内容

5 篇文章 0 订阅

订阅专栏

score-based model介绍

参考视频：[B站score-based model讲解](https://www.bilibili.com/video/BV1VP411u71p/)
论文原文：[Generative Modeling by Estimating Gradients of the Data Distribution](https://arxiv.org/abs/1907.05600)

摘要：

本文提出了一个全新的生成模型，不是直接学习数据的分布，而是通过预测数据分布的对数梯度（即score分数）来构建一个生成模型。score-based model的核心是如何估计score，并且求得score如何进行图片生成。

方法

在这里插入图片描述
下图展示了数据分布的密度，越亮的地方数据密度越高，score是一种梯度，即图中箭头所指的方向。

求得score之后，如何进行采样生成

注意其中 $Z i$ 是一个随机噪声，score-based model的采样过程是存在随机性的。
在低数据密度区域，模型 $S\theta(x)$ 对于 score 的估计是不准的。而且不幸的是，在整个空间中，高数据密度区域一定是稀疏的。也就是说，刚开始我们随机一个起始位置，几乎必定是落在低数据密度区域的。那么我们采样初期的几步，几乎就是乱走的，而初期乱走，由于高数据密度区域的稀疏性，基本就不可能走到高数据密度区域了，就会一直在低数据密度区域打转。

上图为：未加入噪声扰动；为了解决这个问题，使得模型在采样初期，在低数据密度区域，也能够相对较准地估计 score，作者提出对真实数据分布加噪声扰动。在加入噪声扰动之后，数据分布密度较高的位置就会大很多，从而使得模型在前期随机选择的位置，也能够对 score 有较准地估计。极端情况下，如果加的噪声足够大，整个分布几乎成了高斯分布，此时 score 甚至是可以解析的，那么我们当然能准确地求出 score。
在这里插入图片描述
上图为：加u人噪声扰动；然而，加入噪声之后，分布还是我们想要的真实数据分布吗？当然不是，如果加入过强的噪声，最终采样出来的也就是一个噪声了。

这里我们就面临一个两难的问题：如果不加噪声，虽然数据分布是真实的，但对 score 的估计不准，造成我们在低密度数据区域乱转；而如果加入噪声过强，虽然对噪声的估计准了，但最终采样不到我们想要的数据分布。因此，我们需要在准确估计 score 和维持原始分布之间进行权衡。

其实权衡思路也很明确，在采样初期，一定落在低密度区域，score 估计极其不准，这时需要加高强度的噪声扰动，使我们能大致按照正确的方向走，而到了采样的后期，我们已经来到中高密度数据区域，此时就要加较小的噪声扰动，使得我们最终能够采样到真实的数据分布附近。

最终，作者提出了如下退火朗之万动力学的采样算法。在该采样算法中，有两个循环，其中外层循环 i 遍历从1到 L，表示不同的噪声级别，级别越高，噪声强度越小；而内层循环 t 从1到 T，表示该噪声强度下采样的时间步，总的步数就是 L * T。特别的，如果 T = 1，即在每个噪声强度只采样一步，就类似DDPM。
在这里插入图片描述
由以上可知，求得 score 之后如何进行采样生成。即通过在采样不同阶段添加不同程度的噪声扰动，权衡 score 估计的准确性和数据分布的真实性，依据退火的朗之万动力学采样方法，一步一步逼近真实数据的分布。

如何求score？
求 score 的方法就是之前提到的 score-matching，套用DDPM的噪声假设，和 score-based model 原文的表示略有出入：
在这里插入图片描述
该多元高斯分布的分布函数为：

带入score得：

可以看到，我们要估计的 score，与噪声实际就差了一个系数。所以说，估计噪声，就相当于估计 score，也就是估计数据分布的对数梯度。DDPM、score-based model 这类扩散模型实际上都是去训练一个去噪网络。