最优传输中的离散测度

问题

这段时间在了解一些最优传输方面的知识，看博客《最优运输（Optimal Transfort）：从理论到填补的应用》，其中的离散测度（Discrete measures）把我给整懵逼了，先把博客的原文列出来吧：

首先，说一下概率向量（或者称为直方图，英文：Histograms， probability vector）的定义: $${\Sigma }_n\stackrel{def.}{=}\left\{\mathbf{a}\in {\mathbb{R}}_{+}^n:\sum _{i=1}^n{\mathbf{a}}_i=1\right\}\text{\hspace{1em}(1)}$$ 上述公式的含义：一个长度为 $n$ 的数组，每个元素的值在 $[0,1]$ 之间，并且该数组的和为 $1$，即表示的是一个概率分布向量。
离散测度：所谓测度就是一个函数，把一个集合中的一些子集（符合上述概率分布向量）对应给一个数。具体公式定义如下： $$\alpha =\sum _{i=1}^n{\mathbf{a}}_i{\delta }_{x_i}$$ 上述公式含义：以 ${\mathbf{a}}_i$ 为概率和对应位置 $x_i$ 的狄拉克 $\delta$ 函数值乘积的累加和。

懵逼了吧。那个 $\mathbf{a}$ 好理解，就是个表示概率分布的 $n$ 维向量，${\Sigma }_n$ 就是表示所有 $n$ 维概率向量的集合。但是这离散测度的概念给得也太突然了，猝不及防，一头雾水。好的！咱就去看一看博客作者看的原文Computational Optimal Transport，2.1 Histograms and Measures

We will use interchangeably the terms histogram and probability vector for any element $\mathbf{a}\in {\Sigma }_n$ that belongs to the probability simplex（这玩意儿叫概率单纯形） $$公式(1)$$ A large part of this review focuses exclusively on the study of the geometry induced by optimal transport on the simplex.
然后是离散测度定义

瞅了半天，什么 location？什么 Dirac at position $x$？在扯什么？即使能理解 ${\delta }_{x_i}$ 是集中在点 $x_i$ 的单位质量，其值为 $1$，那么 $$\alpha =\sum _{i=1}^n{\mathbf{a}}_i{\delta }_{x_i}=1$$ 呀，怎么会描述一个概率分布呢？

于是查阅维基百科，看看到底什么是离散测度，路线是这样的，想要弄明白离散测度的概念，得先弄明白以下概念：测度、狄克拉，最后是离散测度。

测度

维基百科中这样介绍：In mathematics, the concept of a measure is a generalization and formalization of geometrical measures (length, area, volume) and other common notions, such as mass and probability of events. These seemingly distinct concepts have many similarities and can often be treated together in a single mathematical context. Measures are foundational in probability theory, integration theory.
意思就是：测度是长度、面积、体积以及质量和事件概率等概念的推广。那么是如何推广的呢？维基百科中测度的定义是这样的：

意思就是：$X$ 是一个集合，$\Sigma$ 是 $X$ 上的 $\sigma$ 代数（可以理解为 $X$ 的幂集），即集合 $(E\in \Sigma )$ 是 $X$ 的子集，测度 $\mu$ 就是一个定义域为 $\Sigma$，值域为一个实数的函数，且满足非负性、空集为 $0$、可数可加性。

这么来看，这确实是长度、面积、体积以及质量和事件概率等概念的推广，对于直线的长度，这个集合 $X$ 就是直线本身，$\Sigma$ 的元素就是任意截取一段；对于圆的面积，$X$ 就是圆面，$\Sigma$ 的元素就是圆的任意一部分。。。且满足非负性、空集为 $0$、可数可加性。这种扩展，其实就是把几何物体或是随机事件推广到集合上，使集合也有可测的“大小”概念。

可测集、可测空间和测度空间

$\Sigma$ 称为可测集，再加上 $X$ 组成可测空间 $(X,\Sigma )$ ，再加上 $\mu$ 组成测度空间 $(X,\Sigma ,\mu )$。

从上面来看，probability measure 是一个测度，$\mu (X)=1$，即所有事件的集合的测度为 $1$，对应所有事件的概率之和为 $1$。

到目前为止，想要理解 $\alpha ={\sum }_{i=1}^n{\mathbf{a}}_i{\delta }_{x_i}$ 为什么是测度，又为什么表示了一个概率分布，还是有点难，即使已经对测度有了初步的认识。

离散测度

那就直接看看维基百科的离散测度页。果然有比较详细的介绍。

黄色标记部分意思很清楚：$s_1,s_2,\dots$ 是一系列数，除去它们后，测度为 μ ( R \ { s 1 , s 2 , …   } ) = 0 \mu(\mathbb{R} \verb|\| \{s_1, s_2, \dots\}) = 0 μ(R\{s1​,s2​,…})=0.

绿色部分还出现了 Dirac delta function $\delta$，但这个不是我们要找的 ${\delta }_{x_i}$。蓝色部分才是，给出了 Dirac measure 的定义：有两个序列的实数 $s_1,s_2,\dots$ and $a_1,a_2,\dots$，同等长度，其中 $a_i\in [0,\infty ]$，若 $s_i\in X$，则 ${\delta }_{s_i}(X)=1$，否则 ${\delta }_{s_i}(X)=0$。这不就是指示函数嘛！

好！！！这是我们寻找的，${\delta }_{s_i}$ 不是孤零零的，而是一个函数，是一个测度，它需要输入，我们把输入添上：$$\mu (X)=\sum _i{a}_i{\delta }_{s_i}(X)$$ 那么，此式的意义就明了了：给定一个输入集合 $X$，$X$ 中所有元素 $s_i$ 对应的 $a_i$ 加起来，就是 $X$ 的测度值，而不在 $X$ 中的元素则不计。

例子

现在，有概率向量 $\mathbf{a}=(a_1,a_2,\dots ,a_i,\dots ,a_n)$，对应的事件为 $X=(x_1,x_2,\dots ,x_i,\dots ,x_n)$，计算 $$\mu (X)=\sum _i{a}_i{\delta }_{x_i}(X)=\sum _i{a}_i=1$$ 因为所有 ${\delta }_{x_i}(X)=1$。
现在，计算 $x_2$ 发生的概率，则 μ ( { x 2 } ) = ∑ i a i δ x i ( { x 2 } ) = ∑ i = 2 a i = a 2 \mu(\{x_2\}) = \sum_i a_i \delta_{x_i}(\{x_2\}) = \sum_{i=2} a_i = a_2 μ({x2​})=i∑​ai​δxi​​({x2​})=i=2∑​ai​=a2​ 计算 $x_1$ 或 $x_2$ 发生的概率 μ ( { x 1 , x 2 } ) = ∑ i a i δ x i ( { x 1 , x 2 } ) = ∑ i = 1 , 2 a i = a 1 + a 2 \mu(\{x_1, x_2\}) = \sum_i a_i \delta_{x_i}(\{x_1, x_2\}) = \sum_{i=1,2} a_i = a_1 + a_2 μ({x1​,x2​})=i∑​ai​δxi​​({x1​,x2​})=i=1,2∑​ai​=a1​+a2​。

回到开始，为什么 $\alpha ={\sum }_{i=1}^n{\mathbf{a}}_i{\delta }_{x_i}$ 表示一个测度就很明了了，它的输入是一个事件集合，输出是这个事件集合的概率。而到最优传输问题中，$x_i$ 是一个地点，$a_i$ 是该地点的货物量。