最优传输和Wasserstein GANs理解

最优传输问题

考虑一个网络零售商(卖电子阅读器的)，在$N$个地区各有一个存储仓库。现在有K个顾客要订购电子书阅读器。假设第$n$个仓库$x_n$含有$m_n$个阅读器，而第$k$个顾客$y_k$要订购$h_k$个阅读器($n$和$k$分别是$1$到$N$和$1$到$K$之间的任意值)。传输代价$c(x,y)$是仓库$x$和顾客$y$之间的距离。最优传输问题就是寻找讲$N$个仓库里的所有阅读器运送到所有$K$个顾客所在位置的最廉价的运送方式。这种运送方式可以用一个$N\times K$矩阵$\Gamma$来表示，其中${\Gamma }_{nk}$个元素表示从第$n$个仓库运送到第$k$个顾客手中的阅读器的数量。另外，每个仓库运出阅读器的数量必须和该仓库所拥有的阅读器的数量相等，同样的，每个顾客收到的阅读器的数量也必须和该顾客订购的阅读器的数量相等。这个限制条件可以用如下两个公式来表示，
$$\sum _k{\Gamma }_{nk}=m_n$$
$$\sum _n{\Gamma }_{nk}=h_k$$
此外，矩阵$\Gamma$的每一个元素必须是非负的。

最优传输方案$\hat{T}$就是在上述限制条件下使得总的传输代价最小的传输矩阵，即
$$\hat{T}=argmi{n}_{\Gamma }\sum _{n,k}{\Gamma }_{nk}c(x_n,y_k)$$
在上式中，我们是假设传输$L$个阅读器从$x_n$到$y_k$的代价是传输一个阅读器的$L$倍。然而，在大部分的现实问题中，这种假设一般是不成立的，这里只是为了分析方便。

概率模型

在机器学习和统计问题中，通常把最优传输问题以概率的形式表示。考虑两个有限的概率空间$(X,P)$和$(Y,Q)$，其中$X$和$Y$是有限集，$P$和$Q$分别是在两个集合上的概率分布函数。概率$P$和$Q$之间的最优传输$\hat{\gamma }$即是能使得下述损失函数最小的条件概率分布$\gamma (y|x)$:
$$\hat{\gamma }=argmi{n}_{\gamma }\sum _{n,k}\gamma (y_k|x_n)P(x_n)c(x_n,y_k)$$
同时要满足如下的约束条件：
$$\sum _n\gamma (y_k|x_n)=Q(y_k)$$
即联合概率分布$\gamma (y|x)P(x)$的另一个边缘分布是$Q(y)$。而第一个边缘分布是$P(x)$,这里是自动满足的，即：
$$\sum _k\gamma (x_n|y_k)=P(x_n)$$
可以理解为，$\gamma (y|x)$就是把把分布$P(x)$传输到分布$Q(y)$。这个传输可以理解为一个以$x$作为输入、以概率$\gamma (y|x)$输出y的一个随机函数(stochastic function)。这时，最优传输问题就是寻找能使期望传输代价最小的把概率分布$P$投射到概率分布$Q$的一个随机函数。这个问题和第一部分描述的确定性问题是相同的，这里的传输矩阵${\Gamma }_{nk}$即是$\gamma (y_k|x_n)P(x_n)$。

连续概率模型

考虑将上述离散概率扩展为连续概率。具体做法是将离散概率$P(x)$和$Q(y)$替换为概率密度函数$p(x)$和$q(y)$,同时将求和替换为求积分的形式，即：
$$\hat{\gamma }=argmi{n}_{\gamma }\iint \gamma (y|x)p(x)c(x,y)dxdy$$
(这里使用双积分符号是为了便于理解，下面统一用单积分符号表示)

类似地，边缘分布约束就变为：
$$\int \gamma (y|x)p(x)dx=q(y)$$
和
$$\int \gamma (x|y)q(y)dy=p(x)$$
但是，连续最优传输问题通常会以另一种稍微不同但更常见的形式来表表。将联合概率密度$\gamma (y|x)p(x)$表示为$\gamma (x,y)$,将$min$替换为$inf$(infimum,下确界),即：
$$argin{f}_{\gamma }\int \gamma (x,y)c(x,y)dxdy$$
同时满足如下的限制条件：
$$\int \gamma (x,y)dx=q(y)$$
和
$$\int \gamma (x,y)dy=p(x)$$

最优传输散度和Wasserstein距离

在很多情况下，主要需求并不是要获得最优传输映射。反而是利用最优传输代价作为统计散度(divergence)来反应两个概率分布密度之间的离散程度。统计散度是输入为两个概率分布，输出为零(如果两个概率分布相同)或者一个正数(如果两个概率分布不同)的函数。主要用来表示两个概率分布的不相似程度。类似的统计散度有比较知名的KL散度(KL divergence)。统计散度在机器学习的很多领域中有大量应用，如生成网络和变分贝叶斯推理等。

最优传输散度定义为两个概率分布之间的最优传输代价(最小传输代价)，即：
$$O{T}_c[p,q]=in{f}_{\gamma }\int \gamma (x,y)c(x,y)dxdy$$
同时满足边缘分布约束(11)和(12)。上式提供了一个有效的统计散度，只要代价函数总是非负的，并且$c(x,x)$对所有的$x$都为$0$。

很明显，最优传输散度的性质依赖于代价函数。一个常用的代价函数是欧几里得距离，即：
$$c(x,y)={\Vert x-y\Vert }_2^2$$
使用欧氏距离作为代价函数，我们就获得了知名的2-Wasserstein距离：
$$W_2[p,q{]}^2=in{f}_{\gamma }\int \gamma (x,y){\Vert x-y\Vert }_2^{2}dxdy$$
类似的，对于任意正整数$k$，k-Wasserstein距离可以定义为：
$$W_k[p,q{]}^k=in{f}_{\gamma }\int \gamma (x,y){\Vert x-y\Vert }_k^{k}dxdy$$
其中，${\Vert \cdot \Vert }_k$是$L_k$范数。

对偶问题和Wasserstein GAN

最优传输问题是一种特殊的线性规划问题，因为优化函数和约束函数都是传输映射(即$\gamma$)的线性函数(积分运算是线性的)。线性规划问题是数学优化的基石，而且所有的线性规划问题都有一个对应的对偶问题(关于对偶，推荐看Steven Boyd写的Convex Optimization这本书，非常详细)。而这里最优传输问题也有相对应的对偶问题，并且对偶问题的解就是初始问题的解。而且，最优传输问题的对偶形式是对抗算法和Wasserstein GAN的出发点。一个最优传输散度的对偶形式可以用如下公式表示：
$$O{T}_c[p,q]=su{p}_{f\in L_c}[\int f(x)p(x)dx-\int f(y)q(y)dy]$$
其中$L_c$是所有增长都被$c$限定的函数的集合(即满足lipschitz条件，限制了函数改变的速度)，即：
L c = { f : ℜ → ℜ ∣ f ( x ) − f ( y ) ≤ c ( x , y ) } L_{c}=\{f:\Re\rightarrow\Re|f(x)-f(y)\leq c(x,y)\} Lc​={f:ℜ→ℜ∣f(x)−f(y)≤c(x,y)}

数学证明

为了推导最优传输问题的对偶形式，我们需要把主问题中的有约束优化转化为非约束优化。考虑如下优化问题：
$$su{p}_f[\int f(x^{\prime })p(x^{\prime })d{x}^{\prime }-\int f(x)\gamma (x,y)dxdy]$$
其中$f$可以是任何函数。上式左半边是函数$f$在概率密度函数$p$下的期望，右边部分是函数$f$在边缘分布$\int \gamma (x,y)dy$下的期望。如果关于$p$的边缘约束得到满足(即公式(12)成立)，这个表达式显然是0，因为左右两部分是相等的。然而，如果关于$p$的边缘约束不满足，那么$f$关于$x$的值可以选择在两个边缘分布不同的时候变得任意大，因此整个部分的上确界是无穷大。因此当约束条件满足的时候，在我们要优化问题的代价函数中添加类似两项并不会改变优化问题，不满足约束条件的时候因为是无穷大同样不会改变优化问题。另外，注意到可以将$\int f(x^{\prime })p(x^{\prime })d{x}^{\prime }$移动到后半部分积分项里面，因为常数的期望积分还是它本身。即：
$$su{p}_f[\int f(x^{\prime })p(x^{\prime })d{x}^{\prime }-\int f(x)\gamma (x,y)dxdy]=su{p}_f[\int f(x^{\prime })p(x^{\prime })d{x}^{\prime }-f(x)]\gamma (x,y)dxdy$$
现在可以把含有限制条件的修正的代价函数修正为：
$$O{T}_c[p,q]=in{f}_{\gamma }[\int \gamma (x,y)c(x,y)dxdy+su{p}_{f}L[f,\gamma ]]$$
其中，y
$$L[f,\gamma ]=[(\int f(x^{\prime })p(x^{\prime })d{x}^{\prime }-f(x))-(\int f(y^{\prime })p(y^{\prime })d{y}^{\prime }-f(y))]\gamma (x,y)dxdy$$
下一步就是交换下确界和上确界的顺序，这里使用Sion’s minimax theorem因为代价函数关于$f$和$\gamma$都是线性的：
$$O{C}_c[p,q]=su{p}_{f}in{f}_{\gamma }[\int \gamma (x,y)c(x,y)dxdy+L[f,\gamma ]]=su{p}_f[\int f(x^{\prime })p(x^{\prime })d{x}^{\prime }-\int f(y^{\prime })p(y^{\prime })d{y}^{\prime }+in{f}_{\gamma }\int l(x,y)\gamma (x,y)dxdy]$$
其中，
$$l(x,y)=c(x,y)-(f(x)-f(y))$$
因为$$in{f}_{\gamma }\int l(x,y)\gamma (x,y)dxdy$$为0或者负无穷。因此，问题得证。

wGAN

在wGAN中，作者将对偶形式的最优传输散度替换了KL散度，并且采用深度神经网络的方法来估计$f$函数，因为直接接上述优化问题比较困难。实际上，已经有人采用蒙日-安培方程等直接解出f函数，不在需要神经网络进行估计和对抗。（参见顾险峰相关博客、文章等）。最近准备啃villani的最优传输教材，如果有新的认识再作补充。

本文主要根据an intuitive guide to optimal transport 来撰写的, 和上篇博文主要的区别是公式的变动，表达的更详细、更准确，希望理解起来更方便。如有不足，请多指正。