论文精读（保姆级解析）—— Guidance with Spherical Gaussian Constraint for Conditional Diffusion

0 前言

  该论文发表在2024年机器学习顶会ICML上，本工作旨在利用预训练的扩散模型实现损失函数引导的、无需训练的条件生成任务。仅用几行代码，就能够使得DSG可以无缝地插入(Plug-and-Play)到现有的无需训练的条件扩散方法，在几乎不产生额外的计算开销的同时大幅改善了模型性能。下面给出论文和项目链接：

• 论文
• 项目

1 摘要

  最近的Guidance方法试图通过利用预训练的扩散模型实现损失函数引导的、无需训练的条件生成。虽然这些方法取得了一定的成功，但它们通常会损失生成样本的质量，并且只能使用较小的Guidance步长，从而导致较长的采样过程。 在本文中，作者揭示了导致这一现象的原因，即采样过程中的流形偏离（Manifold Deviation） 。通过建立引导过程中估计误差的下界，从理论上证明了流形偏离的存在。为了解决这个问题，提出了基于球形高斯约束的Guidance方法（DSG），通过解决一个优化问题将Guidance步长约束在中间数据流形内，使得更大的引导步长可以被使用。此外，作者提出了该DSG的闭式解（Closed-Form Solution）, 仅用几行代码，就能够使得DSG可以无缝地插入(Plug-and-Play)到现有的无需训练的条件扩散方法，在几乎不产生额外的计算开销的同时大幅改善了模型性能。并在各个条件生成任务（Inpainting, Super Resolution, Gaussian Deblurring, Text-Segmentation Guidance, Style Guidance, Text-Style Guidance, and FaceID Guidance）中验证了DSG的有效性。

• PS：流形偏离指的是生成的样本不再位于数据真实的低维结构上，而是偏离了这个结构，简单理解就是数据发生了偏离，不是我想要的。

2 引言

  在过去几年，扩散模型尤其是条件扩散模型取得了巨大的成功，应用领域非常广泛。。。

  条件扩散模型通常分为两种类型：classifier-guide和classifier-free。然而，这两种方法在学习成本和模型泛化性上仍然存在挑战，因为它们都需要额外的训练和数据来赋予扩散模型条件生成能力。于是最新的一些研究提出了无需训练的方法，这些方法仅在去噪过程中使用现成的损失引导。虽然这些无需训练的方法避免了额外的训练，但它们可能会牺牲生成样本的真实性和质量。这一弱点可能是由于在去噪过程中中间数据样本$x_t$与中间数据流形之间的偏离所致。由于这个问题，现有的方法通常不得不采用较小的损失引导步长，但这会进一步增加采样步骤的数量，使其算法变慢。

  在本文中，作者通过建立损失引导估计误差的某个下界，揭示了扩散采样过程中的流形偏离现象。为了解决流形偏离问题，提出了一种用于条件扩散模型的新型无需训练的方法——球形高斯约束扩散（DSG）。DSG的基本思想是通过球形高斯约束将引导步长限制在中间数据流形内。具体来说，球形高斯约束是由中间数据流形确定的一个球面，这个球面是无条件扩散步的高置信区域。然后，我们将引导计算表述为一个带有球形高斯约束和引导损失目标的优化问题。在这种情况下，可以避免流形偏离，并且可以采用足够大的引导步长。此外，作者还发现这个优化问题可以通过闭式解有效解决。这就意味着DSG在每个扩散步中几乎不增加额外的计算成本。因此，本文的模型在时间效率和样本质量上都比之前的无需训练的扩散模型表现更好。

  总结一下本文的主要贡献：

• 揭示了流形偏离的问题：通过展示由Jensen间隙引起的损失引导估计误差的某个下界，说明了以往无需训练的条件扩散模型中广泛存在的中间数据流形偏离问题。

• 引入了球形高斯约束引导：引入了球形高斯约束扩散（DSG）方法，这是一种无需训练的条件扩散模型的即插即用模块。DSG基于高维高斯分布集中现象设计，能够有效缓解流形偏离问题。

• 提供闭式解：为DSG去噪过程提供了一个闭式解，简化了DSG在现有无需训练的条件扩散模型中的集成，仅需添加几行代码。DSG几乎不增加计算开销，同时显著提升了性能。

• 适用于多种任务：在各种条件生成任务中进行了实验，包括修复、超分辨率、高斯去模糊、文本分割引导、风格引导、文本风格引导和FaceID引导。这些结果充分证实了我们方法在样本质量和时间效率方面的优越性和适应性。

图1. DSG通过引入球形高斯约束来缓解流形偏离问题，而不依赖于线性流形假设。同时，DSG允许使用更大的步长，显著减少推理时间，同时提高样本质量。将DSG集成到现有的无训练条件扩散模型中只需增加几行代码。在这里，作者简要展示了将DSG集成到最近的无训练条件扩散模型中的性能，例如用于图像修复、超分辨率、高斯去模糊的DPS，用于分割文本引导的UGD，以及用于风格引导任务的Freedom等。DSG几乎不增加计算开销，但带来了显著的性能提升。

3 背景

  简要介绍一下两种模型：需要训练的条件扩散模型和无需训练的条件扩散模型

3.1 需要训练的条件扩散模型（CDM）

  通常，需要训练的CDM可以分为两类。其中一类是分类器引导的扩散模型，它基于现成的扩散模型训练一个时间相关的分类器，以逼近无偏后验概率$p(y|x_t)$。另一类是无分类器的扩散模型，如我们经常听到的stable-diffusion以及他的变体。不同于分类器引导的模型，无分类器引导的模型的关键思想是利用数据对直接训练一个条件去噪器。虽然这些模型可以在给定的条件下确保生成样本的真实性和质量。但是，显然额外的数据对收集和训练时间成本是不可避免的。这使得它们难以在没有额外数据对或足够计算资源的现实场景中部署。

3.2 无需训练的CMD

  为了克服这个问题，最近的研究工作尝试以无需训练的方式处理条件生成。通常，它们不训练时间相关的分类器，而是利用现成的分类器引导来逼近${\nabla }_{x_t}\log (y|x_t)$。具体来说，MCG利用利用Tweedie公式近似引导来解决线性逆问题，然后该方法又被DPS，Freedom，UGD等方法扩展到一般任务。此外，LGD-MC（Song et al., 2023）尝试使用来自不精确高斯分布的多个样本来减少估计偏差，但它仍然受制于蒙特卡罗模拟的计算成本。其他方法如UGD、DiffPIR在干净数据样本（即 $x_0$）上执行引导步骤，然后将更新后的干净数据样本投影到相应的中间数据流形（即 $x_t$）。最近，一个称为MPGD的同期工作进一步研究这一想法，通过在干净数据流形的切空间内执行引导步骤并强制投影。虽然它有一些改进，但依赖于数据流形的强线性假设，这在大多数现实应用中并不成立。此外，MPGD严重依赖于预训练的自编码器进行流形投影。虽然它在图像生成中表现良好，但不能推广到没有预训练自编码器的场景。相比之下，DSG方法可以在没有如此强假设的情况下妥善处理流形偏离问题，并在样本质量和时间效率上提高性能。

4 预备知识

4.1 扩散模型

  扩散模是一类基于似然的生成模型，在各种任务中表现优于其他生成模型（例如，GAN、VAE等）。它有预定义的前向过程，在这个过程中，逐渐向干净数据$x_0$中添加高斯噪声，直到其演变为纯噪声$x_T\in [0,I]$。在DDPM中，给定$x_0$时任意时间点$t$的后验概率分布$x_t$定义为：
$$q(x_t|x_0)=N(x_t;\sqrt{{\alpha }_t}{x}_0,(1-{\alpha }_t)I)$$

其中 { α 0 . . . α t } \{\alpha_0...\alpha_t \} {α0​...αt​}是预定义好的噪声系数，目标是训练一个去噪器，记为${ϵ}_{\theta }(x_t,t)$，在每个时间节点$t$逼近高斯噪声${ϵ}_t$，这是通过最小化损失函数$L_{simple}$实现的，该损失函数等价于匹配去噪得分${\nabla }_{x_t}log{p}_t(x_t)$

$$L_{simple}=E_{t,x_0,{ϵ}_t}[||{ϵ}_t-{ϵ}_{\theta }(x_t,t)|{|}^2]$$

在采样阶段，反向过程中的联合分布$P(x_{0:T})$可以被定义为：

$$\begin{gathered} p_{\theta }(x_{0:T})=p(x_T)\prod _{t=1}^T{p}_{\theta }(x_{t-1}|x_t). \\ {p}_{\theta }(x_{t-1}|x_t)=N(x_{t-1};{\mu }_{\theta }(x_t,t),{\Sigma }_{\theta }(x_t,t)). \end{gathered}$$

在本文中，作者采用了DDIM中的更新规则来计算${\mu }_{\theta }(x_t,t)$和${\sum }_{\theta }(x_t,t)$:

$$\begin{gathered} x_{t-1}=\sqrt{{\alpha }_{t-1}}\left(\frac{x_t-\sqrt{1-{\alpha }_t}{ϵ}_{\theta }(x_t)}{\sqrt{{\alpha }_t}}\right)+\sqrt{1-{\alpha }_{t-1}-{\sigma }_t^2}\cdot {ϵ}_{\theta }(x_t{)}^{(t)}+{\sigma }_t{ϵ}_t, \\ {\sigma }_t=\eta \sqrt{(1-{\alpha }_{t-1})/(1-{\alpha }_t)}\sqrt{1-{\alpha }_t/{\alpha }_{t-1}}. \end{gathered}$$
其中第一项为预测的$x_0$，第二项为指向$x_t$，第三项为随机噪声。当$\eta =1$时，生成过程变为DDPM，而$\eta =0$则对应于确定性采样。

4.2 无需训练的条件生成模型

  分类器指导是第一个在条件生成任务中利用预训练扩散模型的工作。具体而言，考虑贝叶斯规则$p(x|y)=\frac{p(y|x)p(x)}{p(y)}$，它通过引入一个额外的似然项$p(x_t|y)$来引入给定条件：
$${\nabla }_{x_t}\log p(x_t|y)={\nabla }_{x_t}\log p(x_t)+{\nabla }_{x_t}p(y|x_t),$$
其中，$y$表示条件或者测量值。最近，许多被称为无需训练的方法试图在不重新训练或微调扩散先验的情况下，利用预训练的扩散模型进行条件生成。这些无需训练的指导扩散模型不需要训练时间依赖的分类器来估计$p(y|x_t)$，只需要一个预训练的扩散先验$D_0$和一个定义在$x_0$上的可微损失函数 $L(x_0,y)$，是一个现成的神经网络。他们使用Tweedie公式通过估计${\hat{x}}_0$（基于$x_t$）计算${\nabla }_{x_t}\log p(y|x_t)$:
$$\begin{gathered} \widehat{x_0}(x_t)\approx E[x_0|x_t]=\frac{x_t+b_t^2{\nabla }_{x_t}\log p(x_t)}{a_t}, \\ {\nabla }_{x_t}\log p(y|x_t)\approx {\nabla }_{x_t}\log p(y|\widehat{x_0}(x_t))=\gamma {\nabla }_{x_t}L(\widehat{x_0}(x_t),y), \end{gathered}$$

其中，$x_t\sim N(a_t{x}_0,b_t^{2}I)$且$\gamma$是步长。在DDPM的公式中，$a_t=\sqrt{{\alpha }_t},b_t^2=\sqrt{1-{\alpha }_t}$。然后他们使用估计的似然$L(x_0,y)$进行额外的校正步骤：
$$x_{t-1}=\text{DDIM}(x_t,{ϵ}_{\theta }(x_t,t))-\gamma {\nabla }_{x_t}L(\widehat{x_0}(x_t),y).$$
其中，第一项为采样步骤，第二校正步骤。

4.3 低维流形假设

  假设干净数据流形$M_0$是由所有数据点组成的集合。通常，假设数据位于低维空间而不是整个环境空间中：

• 低维流形假设。数据流形$M_0$位于$k$维子空间$R^k$中，其中$k\ll n$，即用如下公式表示： $$M_0\subset {\mathbb{R}}^k,k\ll n.$$

  基于这个假设，最近的一些工作证明了噪声数据$x_t$的集合，即本文中的中间数据流形，集中在一个$(n-k)$维流形$M_t$上（个人理解：当数据添加了噪声后，这些噪声数据$x_t$形成了一个新的流形，称为中间数据流形$M_t$ 。这些噪声数据集中在一个$(n-k)$维的流形上）：
M t : { x ∈ R n ∣ d ( x , α t M ) = ( 1 − α t ) ( n − k ) } M_t : \{x \in \mathbb{R}^n \mid d(x, \sqrt{\alpha_t} M) = (1 - \alpha_t)(n - k)\} Mt​:{x∈Rn∣d(x,αt​ ​M)=(1−αt​)(n−k)}

5 方法

  在本节中，首先介绍之前的无需训练的条件扩散模型（CDM）的局限性，包括强流形假设和损失引导的估计误差。之后，引出作者的方法DSG，通过应用球形高斯约束的引导，有效地解决这些问题。

图2. DPS中的流形偏离问题的示意图（左）和作者的DSG如何在流形内限制引导的示意概述（右）。红色圆环表示偏离条件引导下的样本集中区域，蓝色圆环表示准确条件引导下的样本集中区域，绿色圆环表示无条件情况下的样本集中区域。

左图：DPS中的流形偏离问题

在左图中，我们看到DPS在执行有偏条件引导时会导致样本偏离初始数据流形。红色圆环表示偏离条件引导下的样本集中区域，这表明条件引导引入了额外的误差，导致生成样本偏离原始数据流形。

右图：DSG约束引导流形的示意图

在右图中，DSG通过引入球形高斯约束有效限制了条件引导，使样本在初始数据流形内生成。蓝色圆环表示准确条件引导下的样本集中区域，而绿色圆环表示无条件情况下的样本集中区域。

5.1 损失引导的流形偏离

  虽然之前的无需训练的方法因其即插即用的特性在各种图像领域取得了很大的成功，但它们会牺牲生成样本的质量。这个现象主要有两个问题：关于$M_0$的线性流形假设和由Jensen差距引起的损失引导估计误差，这导致了流形偏离问题。

线性流形假设

  除了低维流形假设之外，一些以前的无需训练的条件扩散方法进一步要求对$M_0$的线性子空间假设。MCG采用这种线性子空间假设来建立估计梯度$\nabla L(\widehat{x_0}(x_t),y)$。一个同期进行的工作MPGD对任意$t\in [0,T]$，将$x_0$上损失的梯度投影到$M_0$的切空间，使样本保持在中间流形$M_t$上。然而，线性流形假设是非常强的，所以在实际中，MCG和MPGD都会不可避免地在估计$p(y|x_t)$时引入误差，导致生成样本偏离干净数据流形$M_0$。

Jensen差距

  如DPS中所述，以往工作中损失引导结果的估计误差来自于对$E_{x_0|x_t}[L(x_0)]\approx L(E_{x_0|x_t}[x_0])=L(\widehat{x_0}(x_t))$的近似。实际上，$E_{x_0|x_t}[L(x_0)]$和$L(\widehat{x_0}(x_t))$之间的差距与Jensen不等式有关，这被称为Jensen差距。

定义5.1

  设$x$是具有分布为$p(x)$的随机变量。对于凸或非凸的函数$f$，$Jensen$差距定义为：
$$J(f,x\sim p(x))=E[f(x)]-f(E[x])$$
其中，期望取$p(x)$。

  尽管DPS提供了Jensen gap的上界，但它依赖于对引导损失有限导数的假设，这在线性逆问题中是显然是不可用的。实际上，这个gap的下界在高维生成任务中非常大，正如命题5.2所示，并进一步导致严重的流形偏离问题。

命题5.2 Jensen gap下届

  对于$\beta$强凸函数$f$和随机变量$x\in R^n\sim N(\mu ,\sum )$，我们可以得到Jensen gap的下界：
$$J\ge \frac{1}{2}\beta \sum _{i=1}^n{\lambda }_i$$
其中，$\sum$通过谱分解为$P^T\Lambda P，{\lambda }_1,\cdot \cdot \cdot ,{\lambda }_n$是$\Lambda$中的正对角元素。
  $f$是现成的导向损失$L$，随机变量$x$是$x_0|x_t$。作者利用LGD-MC中提到的$x_0|x_t$假设，并将其扩展到一般高斯分布以进行更准确的估计。此外，$L$的强凸性的假设也是合理的。一方面，在线性反问题中，$L$通常是二次函数，它是$\beta$强凸的。另一方面，在实际场景中，$L$通常至少具有局部的$\beta$强凸性。考虑到当$x$远离$\widehat{x_0}$时高斯分布的概率可以忽略，Jensen gap的下界在一般情况下仍然成立。因此，根据命题5.2，Jensen gap随着样本维度的增加而线性增长，这在图像生成等高维生成任务中会非常大。在这种情况下，如此大的gap导致$x_{t-1}$从中间数据流形$M_{t-1}$偏离，从而导致图像结构信息的丢失。

5.2 球面高斯约束下的扩散

  根据上面的分析，Jensen gap和线性流形假设都会引入额外误差，导致生成样本的真实性相比于无条件生成显著下降。从另一个角度来看，考虑到在每个去噪步骤中估计条件偏差时不可避免的误差，为什么不从预先存在的无条件中间流形$M_t$开始，然后找到最接近条件采样的点?
  于是，作者提出了带有球形高斯约束的扩散（DSG）,这是一种在无条件中间流形$M_t$的高置信区间内执行引导的优化方法：
$$\arg \underset{x^{\prime }}{\min }[{\nabla }_{x_t}L({\hat{x}}_0(x_t),y){]}^T(x^{\prime }-x_t)\text{s.t.}{x}^{\prime }\in C{I}_{1-\delta }$$
  其中，$C{I}_{1-\delta }$表示高斯分布在公式$p_{\theta }(x_{t-1}|x_t)$中的$(1-\delta )$置信区间。在这个优化问题中，目标是鼓励在梯度下降方向上进行采样，而约束条件则强制在高斯分布的高置信区间内进行采样。然而，当高置信区间在n维空间中覆盖较大区域时，优化问题可能显得困难和不可行。幸运的是，在高维各向同性高斯分布的情况下，高置信区间集中在超球面上，我们可以用这个超球面来简化约束，称为球形高斯约束。

命题5.3 高维各向同性高斯分布的集中性

  对于任意n维各向同性高斯分布$x\sim N(\mu ,{\sigma }^{2}I)$:
$$P(||x-\mu |{|}_2^2\ge x_{lower}=n{\sigma }^2+2n{\sigma }^2(\sqrt{ϵ}+ϵ))\le e^{-nϵ}$$

$$P(||x-\mu |{|}_2^2\le x_{upper}=n{\sigma }^2-2n{\sigma }^2\sqrt{ϵ})\le e^{-nϵ}$$
当n足够大时，它接近于半径为$\sqrt{n}\sigma$的超球面上的均匀分布。根据命题5.3，由于$P(||x-\mu |{|}_2^2\ge x_{lower})$和$P(||x-\mu |{|}_2^2\le x_{upper}$)的概率随着$ϵ$的增加急剧下降。上面提到的公式$x_{t-1}$中的后验高斯分布可以近似为超球面： S μ , r n = S μ θ ( x t ) , n σ n = { x ∈ R n : ∣ ∣ x − μ θ ( x t ) ∣ ∣ 2 2 = r 2 = n σ t 2 } S_{\mu,r} ^{n}=S_{ \mu_\theta(x_t),\sqrt{n}\sigma}^{n}=\{x \in R^{n}:||x-\mu_\theta(x_t)||_2^{2} = r^{2}=n\sigma_t^{2}\} Sμ,rn​=Sμθ​(xt​),n ​σn​={x∈Rn:∣∣x−μθ​(xt​)∣∣22​=r2=nσt2​}
因此，优化问题可以近似为：
$$\arg \underset{x^{\prime }}{\min }[{\nabla }_{x_t}L({\hat{x}}_0(x_t),y){]}^T(x^{\prime }-x_t)\text{s.t.}{x}^{\prime }\in S_{{\mu }_{\theta }(x_t),\sqrt{n}{\sigma }_t}^n$$
由于球面高斯约束，该优化问题本质上是非凸的，但可以获得一个闭形式解：
$$x_{t-1}^{\ast }={\mu }_{\theta }(x_t)-\sqrt{n{\sigma }_t}\frac{{\nabla }_{x_t}L({\hat{x}}_0(x_t),y)}{||{\nabla }_{x_t}L({\hat{x}}_0(x_t),y)|{|}_2}$$

• PS1

DSG可以作为现有无训练条件扩散模型的插件模块，如DPS、UGD等，同时几乎不增加额外的计算开销。特别是，这种方法只需修改几行代码即可生成更逼真的图像，并加速采样速度。以DPS为例，我们突出了DPS和DSG之间的代码差异。

1 diff=measure-self.forward(x_0_hat)
2 dist=norm(diff)
3 grad=autograd.grad(
4 outputs=distance, inputs=x_t)[0]
5 # DPS: x_t=x_t_mean+sigma_t*eps_tgrad*
self.gamma
6 # Ours:
7 norm=norm(grad, dim=[1, 2, 3])
8 x_t=x_t_mean-sqrt(n)*sigma_t*grad/norm

• PS2

获得最优解的另一种直观解释是，作者直接将梯度下降应用于${\mu }_{\theta }(x_t)$而不是采样点$x_t$。虽然DDIM的标准偏差${\sigma }_t$通常随着时间的减小而减小，作者的方法可以看作是自适应梯度下降，在早期阶段快速减小，然后在最后阶段进行收敛。实际上，与当前的一些无需训练的方法相比，作者的方法可以使用极大的步长（当$\eta =1$且$t=T$时超过400倍），从而实现更好的对齐。因此，我们的方法对较小的DDIM步长具有鲁棒性，而DPS的性能迅速下降。在实际应用中，使用DSG来增强对齐和真实性可能会牺牲样本多样性。因此，作者使用优化梯度和无条件采样的加权方向，如Classifier-free方法，以增强多样性：
$$\begin{gathered} d_m=d_{sample}+g_r(d^{\ast }-d_{sample}) \\ {x}_{t-1}={\mu }_{\theta }(x_t)+r\frac{d_m}{||d_m||} \end{gathered}$$

其中，$d_{sample}={\sigma }_t{ϵ}_t$表示无条件采样方向，$d^{\ast }=-\sqrt{n{\sigma }_t}=\frac{{\nabla }_{x_t}L(\widehat{x_0}(x_t),y)}{||{\nabla }_{x_t}L(\widehat{x_0}(x_t),y)||}$表示最陡梯度下降方向。$d_m$表示加权方向，被缩放以满足高斯约束。

6 实验

  作者在几个任务中评估了他提出的方法，包括三个线性逆问题（图像修复、超分辨率、高斯去模糊）、Style Guidance、Text-Segmentation Guidance、FaceID Guidance、Text-Style Guidance。证明了多提出的方法可以轻松的集成到各种的无需训练的方法中，包括DPS、Freedom、UGD等，并且可以显著提升性能。我们看一个FaceID引导的实现细节，其他的几个任务不再介绍，有兴趣的可以阅读下原文。

6.1 FaceID Guidance

  使用(Yu et al.， 2023)提供的来自CelebA-HQ $256\times 256$的预训练扩散模型，并使用CelebA-HQ测试集作为输入参考图像，在100个去噪步骤中生成1k张图像。对于输入参考图像 $I$，使用 FaceID 损失进行引导：
$$Loss({\hat{x}}_0(x_t),I)=CE(E({\hat{x}}_0(x_t)),E(I))$$
其中，$E(\cdot )$表示Arcface网络。

图3. 使用celba - hq 256 *256预训练的扩散模型在FaceID Guidance中的定性结果。

7 缺点

  尽管 DSG 解决了流形偏差问题，允许使用更大的引导步长以提高时间效率，但其采样策略可能会损害样本多样性。这主要有两个原因：首先，DSG 将高斯采样限制在梯度下降方向的附近，而基线方法（如 DPS）在所有方向上随机采样噪声。其次，尽管在 DSG 中将高维高斯分布近似为超球体时，采样到超球体外点的可能性很小，但这种近似可能会减少样本多样性。

总结展望

  本文揭示了在无训练条件扩散模型中一个关键问题：在使用损失引导进行采样时，会出现流形偏差现象。通过为损失引导的估计误差建立一定的下限，证实了这一现象。为了解决这个问题，我们提出了球面高斯约束扩散（DSG），灵感来源于高维高斯分布中的集中现象。DSG通过优化有效地将引导步骤约束在中间数据流形内，从而减轻了流形偏差问题，并且允许使用更大的引导步骤。

  此外，我们提出了具有球面高斯约束的 DSG 去噪的闭式解。值得注意的是，DSG 作为一个即插即用的模块，可以应用于无训练条件扩散模型（CDMs）。将 DSG 集成到这些 CDMs 中仅需修改几行代码，几乎不增加额外的计算成本，但却带来了显著的性能提升。我们已将 DSG 集成到多个最新的 CDMs 中，用于各种条件生成任务。实验结果验证了 DSG 在样本质量和时间效率方面的优越性和适应性。

  值得注意的是，DSG 在样本质量和时间效率方面的改进是以牺牲样本多样性为代价的。这是因为 DSG 在逆扩散过程中用确定性的条件引导步骤取代了随机的高斯噪声项。尽管我们在实际操作中使用引导率$g_r$来缓解这一问题，但从本质上无法避免。在未来的工作中，我们将考虑在保持 DSG 生成质量的同时，增强其多样性。

  以上就是对本篇论文的解读，如有任何问题欢迎留言，批评指正！