Flow Matching For Generative Modeling

Flow Matching For Generative Modeling

一、基于流的（Flow based）生成模型

生成模型

我们先回顾一下所谓的生成任务，究竟是想要做什么事情。我们认为，世界上所有的图片，是符合某种分布 $p_{data}(x)$ 的。当然，这个分布肯定是个极其复杂的分布。而我们有一堆图片 $x_1,x_2,\dots ,x_m$ ，则可以认为是从这个分布中采样出来的 $m$ 个样本。我们通过训练希望得到一个生成器网络 $G$ ，该网络能够做到输入一个从正态分布 $\pi (z)$ 中采样出来的 $z$ ，输出一张看起来像真实世界的图片 $x=G(z)\sim p_G(x)$ 。我们希望采样并生成出的数据分布 $p_G(x)$ 与真实的数据分布 $p_{data}(x)$ 越接近越好。

从概率模型的角度来看，想要做到上面说的这件事情，可以通过最大化对数似然 $\log p_G$，来优化生成器 $G$ 的参数：
$$G^{\ast }=\arg \underset{G}{\max }\sum _{i=1}^m\log p_G(x_i)$$
可以证明，最大化这个对数似然，就相当于最小化生成器分布 $p_G(x)$ 与目标分布 $p_{data}(x)$ 的 KL散度，即让这两个分布尽量接近：
$$G^{\ast }\approx \arg \underset{G}{\min }KL(p_{data}||p_G)$$

概率密度的变量变换定理

给定一个随机变量 $z$ 及其概率密度函数 $z\sim \pi (z)$ ，通过一个一对一的映射函数 $f$ 构造一个新的随机变量 $x=f(z)$。如果存在逆函数 $f^{-1}$ 满足 $z=f^{-1}(x)$，那么新变量 $x$ 的概率密度函数 $p(x)$ 计算如下：
$$\begin{gathered} p(x)=\pi (z)|\frac{dz}{dx}|=\pi (f^{-1}(x))|\frac{d{f}^{-1}}{dx}|=\pi (f^{-1}(x))|(f^{\prime -1}(x)|若z为随机变量 \\ p(\mathbf{x})=\pi (\mathbf{z})|\det (\frac{d\mathbf{z}}{d\mathbf{x}})|=\pi (f^{-1}(\mathbf{x}))|\det ({\mathbf{J}}_{f^{-1}})|若\mathbf{z}为随机向量 \end{gathered}$$
其中 $\det (\cdot )$ 表示行列式，$\mathbf{J}$ 表示雅可比矩阵，是向量函数中因变量各维度关于自变量各维度的偏导数组成的矩阵，可类比为单变量函数的导数。

流模型推导

现在流行的生成模型五花八门，各显神通。VAE 优化变分下界 ELBO、GAN 通过对抗训练来隐式地逼近数据分布。流模型则可以直接优化对数似然。

流模型通过最大化对数似然，来优化生成器 $G$：
$$G^{\ast }=\arg \underset{G}{\max }\sum _{i=1}^m\log p_G(x_i)$$
而根据变量变换定理，有：
$$p_G(x_i)=\pi (z_i)|\det (J_{G^{-1}})|,z_i=G^{-1}(x_i)$$
则对数似然：
$$\log p_G(x_i)=\log \pi (G^{-1}(x_i))+\log |\det (J_{G^{-1}})|$$
要训练一个好的生成器 $G$ 我们只需要训练一个（或一系列）网络完成从噪声分布 $\pi (z)$ 到数据分布 $p_{\text{data}}(x)$ 的变换就可以了。在采样生成时，求出生成器的逆向网络 $G^{-1}$，再将随机采样的噪声输入，即可生成新的符合数据分布的样本。只要最大化上面这个式子，就可以了。

现在的问题就是怎么把这个式子算出来，具体来说，这个式子计算的关键在以下两点：

• 如何计算行列式 $\det (J_G)$
• 如何求逆矩阵 $G^{-1}$

我们设计的生成器网络 $G$ 需要满足上面这两个条件，这就是流模型生成器数学上的限制。在之前的流模型研究中，研究者们提出了许多设计精巧的网络（如 decoupling layer），可以巧妙地使得网络满足上述两点便利计算的要求。

另外要提一点，流模型的输入输出的尺寸必须是一致的。这是因为如果想要 $G$ 可逆，它的输入输出维度一致是一个必要条件（非方阵不可能可逆）。比如要生成 $100\times 100\times 3$ 的图像，那输入的随机噪声也是 $100\times 100\times 3$​​ 的。这与 VAE、GAN 等生成模型很不一样，这些生成模型的输入维度通常远小于输出维度。

堆叠多个网络

在实际中，由于可逆神经网络存在数学上的诸多限制，其单个网络的表达能力有限，我们一般需要堆叠多层网络来得到一个生成器，这也是 “流模型” 这个名称的由来。不过虽然堆叠了很多层，在公式上也没有什么复杂的。无非就是把一堆 $G_i$ 连乘起来，通过 $\log$​ 之后，又变成连加。

比如我们有 $K$ 个网络 { f i } i = 1 K \{f_i\}_{{i=1}}^K {fi​}i=1K​，对噪声分布 $\pi ({\mathbf{z}}_0)$ 进行 $K$ 步变换，得到数据 $\mathbf{x}$，即有：
$$\mathbf{x}={\mathbf{z}}_k=f_K(f_{K-1}...f_1({\mathbf{z}}_0))$$
对于其中第 $i$ 步有：
$$\begin{gathered} {\mathbf{z}}_i\sim p_i({\mathbf{z}}_i) \\ {\mathbf{z}}_i=f_i({\mathbf{z}}_{i-1}),{\mathbf{z}}_{i-1}=f^{-1}({\mathbf{z}}_i) \end{gathered}$$
根据变量变换定理，相邻两步之间的隐变量分布的关系为：
$$\begin{array}{rl}{p}_i({\mathbf{z}}_i)& =p_{i-1}(f_i^{-1}({\mathbf{z}}_i))|\det {\mathbf{J}}_{f_i^{-1}}|\\ & =p_{i-1}({\mathbf{z}}_{i-1})|\det {\mathbf{J}}_{f_i}{|}^{-1}\end{array}$$
每一步的对数似然为：
$$\log p_i({\mathbf{z}}_i)=\log p_{i-1}({\mathbf{z}}_{i-1})-\log (\det ({\mathbf{J}}_{f_i}))$$
对于整个 $K$ 步的过程，对数似然为：
$$\begin{array}{rl}\log p(\mathbf{x})& =\log p_K({\mathbf{z}}_K)\\ & =\log p_{K-1}({\mathbf{z}}_{K-1})-\log (\det ({\mathbf{J}}_{f_K}))\\ & =\log p_{K-2}({\mathbf{z}}_{K-2})-\log (\det ({\mathbf{J}}_{f_{K-1}}))-\log (\det ({\mathbf{J}}_{f_K}))\\ & =...\\ & =\log \pi ({\mathbf{z}}_0)-\sum _{i=1}^K\log (\det ({\mathbf{J}}_{f_i}))\end{array}$$

可以看到，流模型的核心思路就是通过多个可逆神经网络，一步步地将噪声分布转换为数据分布。在采样生成时，直接使用逆向网络，将随机采样的噪声样本转换为新的数据样本。

二、连续归一化流

常规流模型是在设定了离散的有限个（比如 $K$ 个）可逆神经网络来逐步完成分布变换。而连续归一化流（Continuous Normalizing Flow, CNF），则是将其扩展为连续的情形。

设有 $d$ 维空间中的数据 $x=(x^1,x^2,\dots ,x^d)\in {\mathbb{R}}^d$ 。CNF 有两个核心的研究对象：

• 概率密度路径 (Probability Density Path) $p$ ：$[0,1]\times {\mathbb{R}}^d\to {\mathbb{R}}_{>0}$ ，这是一个关于时间的概率密度函数，即有 $\int p_t(x)dx=1$。
• 关于时间的向量场 (time-dependent vector field) $v$：$[0,1]\times {\mathbb{R}}^d\to {\mathbb{R}}^d$ ，它定义了每一个数据点在状态空间中随时间的变化方向和大小（所以叫向量场），可以理解为描述概率分布随时间变化的速率。

向量场 $v_t$ 可以用来构建关于时间的微分同胚的映射，称为流 (flow) $\varphi$：$[0,1]\times {\mathbb{R}}^d\to {\mathbb{R}}^d$ 。通过常微分方程来定义：
$$\frac{d}{dt}{\varphi }_t(x)=v_t({\varphi }_t(x))$$

$${\varphi }_0(x)=x$$

这里的 ${\varphi }_t(x)$ 可以理解为 flow $\varphi$ 在时间 $t$ 时的状态，对应于扩散模型中时间步 $t$ 的噪声图。$p_t(x)$ 是概率密度路径 $p$ 时的状态，也就是 flow $\varphi$ 在时间 $t$ 的概率分布。

之前，Neural ODE 提出使用一个参数为 $\theta \in {\mathbb{R}}^p$ 的神经网络 $v_t(x;\theta )$ 来建模向量场 $v_t$ ，从而就能够计算出 flow ${\varphi }_t$，来实现 CNF。

CNF 可以通过 push forward 公式，将一个简单的先验分布 $p_0$ （即纯噪声）转化为复杂的分布 $p_1$ （即数据分布）：
$$p_t=[{\varphi }_t{]}_{\ast }{p}_0$$
其中 push forward 操作符 $\ast$ 定义为：
$$[{\varphi }_t{]}_{\ast }{p}_0(x)=p_0({\varphi }_t^{-1}(x))\det [\frac{\partial {\varphi }_t^{-1}}{\partial x}(x)]$$
如果满足了上述公式，可以看作是一个向量场 $v_t$ 生成了一个概率密度路径 $p_t$ 。

本文通过连续性方程（Continuity Equation）来测试一个向量场是否能生成一个概率密度路径，这是一个偏微分方程（PDE），给出了概率场生成概率密度路径的充要条件：
$$\frac{d}{dt}{p}_t(x)+\text{div}(p_t(x)v_t(x))=0$$
其中散度运算符 $\text{div}$ 是关于空间变量 $x=(x^1,\dots ,x^d)$ 的偏导数：$\text{div}={\sum }_{i=1}^d\frac{\partial }{\partial x^i}$。本文附录 C 还介绍了更多关于 CNF 的前置知识，尤其是如何在空间中任意点 $x\in {\mathbb{R}}^d$ 处，计算概率 $p_1(x)$。

为什么说向量场 $v_t$ “生成” 了概率密度路径 $p_t$？为什么要用常微分方程 ODE 来表达？

$v_t$ 是 ${\varphi }_t$ 的导数（微分）。导数或者说微分，就是一个量随着另一个量极小变化时的变化，其实写成离散形式也好理解了，微分就是变化量： ${\varphi }_t^{\prime }={\varphi }_{t+\Delta t}-{\varphi }_t$ 。就是从上一个时间点，怎么到下一个时间点，再知道初值 ${\varphi }_0=x$ 之后，就能从第一个点 “流” 到最后一个点，得到一个路径 $p_t$，所以说 “向量场（${\varphi }_t$ ODE 的解 ${\varphi }_t^{\prime }=v_t$）生成了一条概率路径”。而 ODE $d{\varphi }_t/dt=v(z_t,t)$ 定义了一个向量场 $v$ 。

三、Flow Matching

在构建生成模型时，我们假设有一个未知的数据分布 $q(x_1)$ （注意本文中的符号与扩散模型论文中常用的符号相反，本文中 $x_1$ 表示真实数据，$x_0$ 表示随机噪声），我们能从其中采样出大量数据样本，但是不知道该分布的具体函数。

记 $p_t$ 为概率路径，而 $p_0=p$ 是一个简单的已知分布（如标准高斯分布 $p(x)\sim \mathcal{N}(0,\mathbf{I})$），并令 $p_1$ 在分布上大致与 $q$ 相等。Flow Matching 的目标就是去匹配这样一条目标概率路径，从而我们能够从 $p_0$ ”流动“ 到 $p_1$，实现生成。如何构造这样一条目标路径，稍后会介绍。

给定一个目标概率密度路径 $p_t(x)$ 以及对应的生成这条路径的向量场 $u_t(x)$，Flow Matching 的目标函数定义为：
$${\mathcal{L}}_{\text{FM}}(\theta )={\mathbb{E}}_{t,p_t(x)}||v_t(x)-u_t(x)|{|}^2$$
其中 $\theta$ 是 CNF 向量场 $v_t$ 的参数，$t\sim \mathcal{U}(0,1),x\sim p_t(x)$ 。简单来说，FM 损失就是通过一个神经网络 $v_t$ 对向量场 $u_t$ 进行回归。当损失达到零时，训练好的的 CNF 模型就能够生成各时间 $t$ 的 $p_t(x)$，当然就能生成符合数据分布 $q(x_1)=p_1(x)$ 的样本。

Flow Matching 目标函数非常简洁，不过实际中它本身是无法计算的，因为我们并不知道 $p_t$ 和 $u_t$。有许多条概率路径能够实现 $p_1(x)\approx q(x)$，更重要的是，我们无法计算生成目标 $p_t$ 的 $u_t$​ 的闭式解。

由条件概率路径和条件向量场构建 $p_t$ 和 $u_t$​

接下来我们介绍构建目标概率路径 $p_t$ 和向量场 $u_t$ 的方法，本方法的思路是通过单个样本构建条件概率路径和条件向量场，再通过积分将条件概率路径/向量场与边缘概率路径/向量场联系起来，从而有一个容易计算的流匹配目标函数。

构建目标概率路径的一个简单方法是通过混合一个更简单的概率路径：给定一个特定的数据样本 $x_1$，我们用 $p_t(x|x_1)$ 表示一个条件概率路径，它需要满足：

• 时间 $t=0$ 时 $p_0(x|x_1)=p(x)$，也就是说 $p_0(x)$ 和样本数据 $x_1$ 无关，是一个标准噪声分布；
• 在 $t=1$ 时的 $p_1(x|x_0)$ 是一个在 $x=x_1$ 附近的分布（如一个均值为 $x_1$，标准差 $\sigma >0$ 足够小的正态分布 $p_1(x|x_1)=\mathcal{N}(x|x_1,{\sigma }^2\mathbf{I})$）。也就是说 $t=1$ 时要大致符合数据分布，即 $p_1(x)\approx q(x)$ 。

将条件概率路径 $p_t(x|x_1)$ 对所有的 $q(x_1)$ 进行积分（相当于遍历数据集中所有的真实数据），就得到了我们想要的边缘概率路径 $p_t(x)$：
$$p_t(x)=\int p_t(x|x_1)q(x_1)d{x}_1$$

特别地，当时间 $t=1$ 时，边缘概率 $p_1$ 是一个混合分布，能够对数据分布 $q$ 进行很好的近似：
$$p_1(x)=\int p_1(x|x_1)q(x_1)d{x}_1\approx q(x)$$
我们也可以通过对条件向量场进行 ”边缘化“，来定义一个边缘向量场 (marginal vector field) （假设对所有的 $t,x$ ，$p_t(x)>0$）：
$$u_t(x)=\int u_t(x|x_1)\frac{p_t(x|x_1)q(x_1)}{p_t(x)}d{x}_1$$
其中 $u_t(\cdot |x_1):{\mathbb{R}}^d\to {\mathbb{R}}^d$ 是生成 $p_t(\cdot |x_1)$ 的条件向量场。

那么，这种对条件向量场积分，来构造的边缘向量场 $u_t(x)$，能否生成对应的边缘概率路径 $p_t(x)$ 呢？作者证明，是可以的。原文中附录 A 给出了完整的证明过程，其实要证明就是上述构造边缘概率路径/向量场的形式，能够满足连续性方程。

这样就将条件向量场（可以生成条件概率路径）和边缘向量场（可以生成边缘概率路径）联系了起来。从而我们就可以将未知且难以计算的边缘概率场转换为更简单的条件概率场。条件概率场定义起来要简单得多，因为它仅依赖于单个数据样本。正式地表述为：

定理1 给定条件概率路径 $p(x|x_1)$ 以生成该路径的条件向量场 $u(x|x_1)$，对于任意数据分布 $q(x_1)$，边缘向量场 $u_t$ 和 $p_t$ 满足连续性方程，即 $u_t$ 能够生成 $p_t$

条件流匹配 Conditional Flow Matching

遗憾的是，由于边缘向量场和边缘概率路径中的积分无法计算，我们还是无法得到 $u_t$ ，从而也就无法直接计算原始 Flow Matching 目标函数。这里，作者提出了一个更简单的目标函数，它能导出与原目标函数相同的最优解。具体来说，作者提出了 条件流匹配 (Conditional Flow Matching) 目标：
$${\mathcal{L}}_{\text{CFM}}(\theta )={\mathbb{E}}_{t,q(x_1),p_t(x|x_1)}||v_t(x)-u_t(x|x_1)|{|}^2$$

其中 $t\sim \mathcal{U}(0,1),x_1\sim q(x_1)$，而此时 $x\sim p_t(x|x_1)$。也就是说，我们不回归向量场 $u_t(x)$ 了，而是改为回归条件向量场 $u_t(x|x_1)$。不同于 FM 目标函数，在 CFM 目标函数中，只要我们能从 $p_t(x|x_1)$ 中采样，并计算 $u_t(x|x_1)$，就可以计算出无偏估计。而由于我们是在单个样本上进行的定义，这两点要求都很容易满足。

作者证明了：

定理2 假设对所有的 $x\in {\mathbb{R}}^d$ 和 $t\in [0,1]$，都有 $p_t(x)>0$，那么 ${\mathcal{L}}_{\text{CFM}}$ 和 ${\mathcal{L}}_{\text{FM}}$ 是相等的（至多差一个与 $\theta$ 无关的常数），即 ${\nabla }_{\theta }{\mathcal{L}}_{\text{CFM}}(\theta )={\nabla }_{\theta }{\mathcal{L}}_{\text{FM}}(\theta )$ 。

也就是说，优化 CFM 目标（在期望上）等同于优化 FM 目标。因此，我们可以用 CFM 目标训练一个 CNF 来生成边际概率路径 $p_t$，在 $t=1$ 时近似未知数据分布 $q$，而无需已知边缘概率路径或边缘向量场。我们只需要设计合适的条件概率路径和条件向量场。

四、高斯条件概率路径和条件向量场

CFM 目标适用于所有的条件概率路径和条件向量场。本节中，我们重点讨论高斯条件概率路径族的 $p_t(x|x_1)$ 和 $u_t(x|x_1)$。即，我们考虑如下形式的高斯条件概率路径：
$$p_t(x|x_1)=\mathcal{N}(x|{\mu }_t(x_1),{\sigma }_t^2(x_1)\mathbf{I})$$
其中 $\mu :[0,1]\times {\mathbb{R}}^d\to {\mathbb{R}}^d$ 和 $\sigma :[0,1]\times \mathbb{R}\to {\mathbb{R}}_{>0}$ 分别是关于时间 $t$ 的高斯分布的均值和标准差。需要满足：

1. 在时间 $t=0$ 时，满足 ${\mu }_0(x_1)=0,{\sigma }_0(x_1)=1$，从而所有的条件概率路径都收敛到标准高斯分布 $p(x)=\mathcal{N}(x|0,\mathbf{I})$；
2. 在时间 $t=1$ 时，满足 KaTeX parse error: Got function '\min' with no arguments as subscript at position 37: …_1(x_1)=\sigma_\̲m̲i̲n̲，其中 KaTeX parse error: Got function '\min' with no arguments as subscript at position 8: \sigma_\̲m̲i̲n̲ 需足够小，使得 $p_1(x|x_1)$ 是足够聚集于中心 $x_1$ 的高斯分布。

存在无限多个向量场可以生成任何特定的概率路径，但这些中的绝大多数是由于存在使底层分布不变的分量（比如像连续性方程中添加一个无散度的分量），导致的不必要的额外计算。作者使用最简单的，对应于高斯分布的标准变换的向量场。具体来说，考虑条件于 $x_1$ 的流：

$${\psi }_t(x)={\sigma }_t(x_1)x+{\mu }_t(x_1)$$
当 $x$ 是标准的高斯分布时，${\psi }_t(x)$ 是一个仿射变换，映射到均值为 ${\mu }_t(x_1)$、标准差为 ${\sigma }_t(x_1)$ 的正态分布随机变量。也就是说，根据上式，${\psi }_t$ 的前向过程从噪声分布 $p_0(x|x_1)$ 流向 $p_t(x|x_1)$ ，即：
$$[{\psi }_t{]}_{\ast }p(x)=p_t(x|x_1)$$
生成这个条件概率路径 $p_t(x|x_1)$ 的条件向量场 $u_t(x|x_1)$ 为：
$$\frac{d}{dt}{\psi }_t(x)=u_t({\psi }_t(x)|x_1)$$
将 ${\psi }_t$ 重写为仅关于 $x_0$，并将上式代入到 CFM 损失中，有：
$${\mathcal{L}}_{\text{CFM}}(\theta )={\mathbb{E}}_{t,q(x_1),p(x_0)}||v_t({\psi }_t(x_0))-\frac{d}{dt}{\psi }_t(x_0)|{|}^2$$
由于 ${\psi }_t$ 是可逆的仿射映射，我们可以闭式计算出 $u_t$。

记 $f^{\prime }$ 表示关于时间的函数 $f$ 对时间的微分，即 $f^{\prime }=\frac{d}{dt}f$。

定理3 设 $p_t(x|x_1)$ 是一个高斯概率路径，${\psi }_t$ 是其对应的 flow map，那么有唯一的向量场 ${\psi }_t$，其形式为：
$$u_t(x|x_1)=\frac{{\sigma }_t^{\prime }(x_1)}{{\sigma }_t(x_1)}(x-{\mu }_t(x_1))+{\mu }_t^{\prime }(x_1)$$
该向量场 $u_t(x|x_1)$ 可以生成高斯路径 $p_t(x|x_1)$​。

高斯条件概率路径的特殊情形

我们的形式化对于任意函数 ${\mu }_t(x_1)$ 和 ${\sigma }_t(x_1)$ 都是完全通用的，我们可以将它们设置为任何满足所需边界条件的可微函数。本节讨论两个实例，首先讨论已有的经典扩散模型（如 VP/VE）在本文形式化下的推导。然后，由于我们直接使用概率路径工作，可以完全不依赖于关于扩散过程的推理。因此，我们可以直接基于 Wasserstein-2 最优传输解来制定一个概率路径，这是第二个实例。

例子1：Diffusion Conditional VFs

扩散模型对一个真实数据样本逐渐添加噪声，直到其成为纯噪声。扩散模型可以表示为随机过程，其具有一定的要求，从而对任意时间 $t$ 有闭式表示。选择不同的均值 ${\mu }_t(x_1)$ 和标准差 ${\sigma }_t(x_1)$，就得到特定高斯条件概率路径 $p_t(x|x_1)$ 。

首先来看 Variance Exploding，其反向（噪声->数据）路径为：
$$p_t(x)=\mathcal{N}(x|x_1,{\sigma }_{1-t}^2\mathbf{I})$$
其中 ${\sigma }_t$ 是一个单增函数，${\sigma }_0=0,{\sigma }_1>>1$。上式这种 VE 扩散模型，是选择了均值和标准差分别为 ${\mu }_t(x_1)=x_1,{\sigma }_t(x_1)={\sigma }_{1-t}$ 。带入到定理 3 的公式中：
$$u_t(x|x_1)=-\frac{{\sigma }_{1-t}^{\prime }}{{\sigma }_{1-t}}(x-x_1)$$
另一种经典的扩散模型 Variance Preserving 扩散路径的形式为：
$$\begin{gathered} p_t(x|x_1)=\mathcal{N}(x|{\alpha }_{1-t}{x}_1,(1-{\alpha }_{1-t}^2)\mathbf{I}) \\ {\alpha }_t=e^{-\frac{1}{2}T(t)} \\ T(t)={\int }_0^t\beta (s)ds \end{gathered}$$
其中 $\beta$ 是关于 $t$ 的 noise scale 函数。上式是选择了均值和标准差分别为 ${\mu }_t(x_1)={\alpha }_{1-t}{x}_1,{\sigma }_t(x_1)=\sqrt{1-{\alpha }_{1-t}^2}$ 。带入到定理 3 的公式中：
$$u_t(x|x_1)=\frac{{\alpha }_{1-t}^{\prime }}{1-{\alpha }_{1-t}^2}({\alpha }_{1-t}x-x_1)=-\frac{T^{\prime }(1-t)}{2}[\frac{e^{-T(1-t)}x-e^{-\frac{1}{2}T(1-t)}{x}_1}{1-e^{-T(1-t)}}]$$
实际上，本文在指定特定的条件扩散过程时构建出的条件向量场 $u_t(x|x_1)$ ，与宋飏等人（Diff SDE 论文，公式 12）中给出的确定性概率流模型是相符的。并且，将扩散条件向量场与 FM 训练目标结合起来，能得到另一种训练 score matching 的方法，作者发现该方法训练起来更加稳定。

作者还指出，上述提到的这些概率路径通过扩散过程推导得出，所以他们在最终的时间步并没有达到真正的噪声分布（Zero Terminal SNR 也提出了一样的问题）。实际中，$p_0(x)$ 只是通过一个合适的高斯分布近似，来进行采样和似然计算。而本文提出的构造方式，则可以对概率路径有完全的控制，可以直接设置 ${\mu }_t$ 和 ${\sigma }_t$。接下来，我们就试试这样做。

例子2：Optimal Transport Conditional VFs

一个更自然的选择是将均值和标准差定义为简单的线性变换，即：
KaTeX parse error: Got function '\min' with no arguments as subscript at position 42: …x)=1-(1-\sigma_\̲m̲i̲n̲)t
根据定理 3，产生上述路径的向量场为：
KaTeX parse error: Got function '\min' with no arguments as subscript at position 33: …{x_1-(1-\sigma_\̲m̲i̲n̲)x}{1-(1-\sigma…

其中 $t\in [0,1]$。其对应的 flow 为：

KaTeX parse error: Got function '\min' with no arguments as subscript at position 25: …)=(1-(1-\sigma_\̲m̲i̲n̲)t)x+tx_1
此时，CFM 损失为：
KaTeX parse error: Got function '\min' with no arguments as subscript at position 95: …(x_1-(1-\sigma_\̲m̲i̲n̲)x_0)||^2
本文这种线性的均值标准差构造方法，不仅能得到简单直观的路径，实际上在以下意义上也是最优的。条件流 ${\psi }_t(x)$ 实际上是两个高斯分布 $p_0(x|x_1)$ 和 $p_1(x|x_1)$ 之间的最优传输映射（Optimal Transport (OT) Displacement Map）。最优传输插值（OT Interpolant），即是一个概率路径，被定义为：
$$p_t=[(1-t)\text{id}+t\psi {]}_{\ast }{p}_0$$
其中 $\psi :{\mathbb{R}}^d\to {\mathbb{R}}^d$ 是从 $p_0$ 到 $p_1$ 的最优传输映射，$\text{id}$ 表示恒等映射，即 $\text{id}(x)=x$。$(1-t)\text{id}+t\psi$ 即 OT displacement map。之前的研究表明，在这种情况汇总，两个高斯分布（其中第一个是标准高斯）的 OT displacement map 形如式 23。

直观地说，在最优传输位移图下，粒子总是沿着直线轨迹并以恒定速度移动。下图展示了扩散和最优传输条件向量场的采样路径。作者还发现，从扩散路径中采样的轨迹可能会“超出”最终样本，导致不必要的回溯，而最优传输路径则保证保持直线。

下图比较了扩散条件得分函数（典型扩散方法中的回归目标），即 $\nabla \log p_t(x|x_1)$，与 OT 条件向量场。两个示例中的起始 $p_0 $ 和结束 $p_1$高斯分布是相同的。一个有趣的观察是，最优传输向量场在时间上具有恒定的方向，这无疑会导致一个更简单的回归任务。这个属性也可以从 OT 的形式中验看出，因为向量场可以写成 $u_t(x|x_1)=g(t)h(x|x_1)$ 的形式。最后，我们注意到，尽管条件流是最优的，但这并不意味着边际向量场是最优传输解。尽管如此，我们期望边际向量场保持相对简单。