Bellman_Ford算法证明

Bellman_Ford算法

在最短路径问题中，我们给定一个带权重的有向图$G=(V,E)$和权重函数$w$，$w(u,v)$返回$u\to v$的边权。图中的一条路径$p=<v_0,v_1,\cdots ,v_k>$的权重$w(p)$是构成路径的边的边权之和：

$w(p)=\sum _{i=1}^{k}w(v_{i-1},v_i)$

定义从节点$u$到节点$v$的最短路径权重$\delta (u,v)$如下：

特别地，设源点为$s$，那么$\delta (s,s)=0$，这很明显，原地踏步嘛，自己到自己的最短距离就是0

如何理解任何一条路径呢？

最短路径不是唯一的，有很多条最短路径，也就是说会有很多最短路径$p$，但是最短路径上的权值之和是唯一的，也就是说最终的$\delta (u,v)$是唯一的

---

最短路径的最优子结构

最短路径的最优子结构：最短路径的子路径也是最短路径。

性质：$\delta (s,v)=\delta (s,u)+w(u,v)$

证明如下：

---

负权和负环

• 负权：图中某些边的权值为负数
• 负环：存在一个环，这个环中所有边权之和为负数

为什么最短路径中不能存在负权环和正权环呢？

• 不能存在负权环。如上图，我们想要求从$u$到$v$的最短距离，但是每次进入这个环，权值之和都会减少5，那么可以在这个环上无限转圈，每转一圈权值之和减少5，但是一直转圈，不知道啥时候能停止转圈，然后通过最后一条边到达重点$v$。假设只转一圈就出去了，那么$\delta (u,v)=3$；假设转两圈就出去了，那么$\delta (u,v)=-2$，$\cdots$，由于无限转圈圈，那么得到的最短距离不确定
• 不能存在正权环。如上图，假设正权环权值为2，4，1。每次进入环中，权值之和都会增加7，假设只转一圈就出去了，那么$\delta (u,v)=15$；假设转两圈就出去了，那么$\delta (u,v)=22$，很明显，如果无限转圈，那么最短距离是单调递增的。但是，如果不走这个环，那么得到的是$\delta (u,v)=5+1+3=9$。也就是说，如果去掉回路上的边，可以产生一个具有相同起点和终点、权值更小的路径。即如果$p=<v_0,v_1,\cdots ,v_k>$是一条路径，而$c=<v_i,v_{i+1},\cdots ,v_j,v_{j+1},v_i>$是这条路径上的一个正权回路(那么$w(c)>0$)。如果去掉回路上的边后，得到路径$p^{\prime }=<v_0,v_1,\cdots ,v_i,v_{j+1},v_{j+2},\cdots ,v_k>$，那么$w(p)=w(p^{\prime })+w(c)$，因此$w(p^{\prime })<w(p)$，所以$p$不可能是从$v_0$到$v_k$的最短路径

---

松弛操作

对于图中的每一个顶点$v$，都设置一个属性$dis[v]$，用来描述从源点$s$到$v$的最短路径上权值的上界，称为最短路径估计。

• $dis[v]$也就是从起点$s$到点$v$的最短路径上的估计值
• $\delta (u,v)$是从起点$s$到点$v$的真实的最短路径上权值的最优解
• 其实也就是要想办法设置一种算法，使得最终有$div[v]=\delta (u,v)$，真正要求的就是$div[v]$，$\delta (u,v)$只是设想的最优解

如何理解松弛后一定有$dis[v]\le dis[u]+w(u,v)$呢？

• 对于a图，松弛前，$dis[u]=5,w(u,v)=2,dis[v]=9$，由于$dis[u]+w(u,v)<dis[v]$，然后我们让它执行了这句$dis[v]=dis[u]+w(u,v)$。因此松弛后，有$dis[v]=dis[u]+w(u,v)$
• 对于b图，松弛前，$dis[u]=5,w(u,v)=2,dis[v]=6$，由于$dis[u]+w(u,v)>dis[v]$，那么啥也不做。因此松弛后，有$dis[v]<dis[u]+w(u,v)$
• 综上，经过松弛操作后，一定有$dis[v]\le dis[u]+w(u,v)$

---

相关性质

---

路径松弛性质

如果路径$p=<v_0,v_1,\cdots ,v_k>$是从源点$s=v_0$到节点$v_k$的一条最短路径，并且我们对$p$的边按照$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1}\to v_k$的顺序进行了松弛操作，那么一定有$dis[v_k]=\delta (s,v_k)$，而且只要是有按这样的顺序进行松弛操作过，结论就一定成立。这个性质的保持并不受到其他松弛操作的影响，即使它们与p的边上的松弛操作混合在一起也是一样的。

证明如下：

这个证明有点像递推。若$dis[v_{i-1}]=\delta (s,v_{i-1})$，则对$v_{i-1}\to v_i$进行松弛操作后，由上面的收敛性子可知，得到：$dis[v_i]=\delta (s,v_i)$，再由上界性质，一旦有$dis[v_i]=\delta (s,v_i)$，那么以后其值都不会发生改变了，该式子以后恒成立。又因为$dis[s]=\delta (s,s)=0,v_0=s$，所以得证

也就是说，我们可以通过：

• 由$dis[v_0]=\delta (s,v_0)$，通过收敛性质可知，对$s\to v_0$松弛后，推出$dis[v_1]=\delta (s,v_1)$，再由上界性质，其值之后都不会发生变化，该式子以后恒成立
• 由$dis[v_1]=\delta (s,v_1)$，通过收敛性质可知，对$v_1\to v_2$松弛后，推出$dis[v_2]=\delta (s,v_2)$，再由上界性质，其值之后都不会发生变化，该式子以后恒成立
• $\cdots$
• 由$dis[v_{k-1}]=\delta (s,v_{k-1})$，通过收敛性质可知，对$v_{k-1}\to v_k$松弛后，推出$dis[v_k]=\delta (s,v_k)$，再由上界性质，其值之后都不会发生变化，该式子以后恒成立

如何理解：这个性质的保持并不受到其他松弛操作的影响，即使它们与p的边上的松弛操作混合在一起也是一样的？

• 假设$dis[v_{i-1}]=\delta (s,v_{i-1})$
• 假设松弛了不在路径$p$上的某一条边$(v_t,v_i)$，由上界性质，$dis[v_i]\ge \delta (s,v_i)$（为什么不是直接$dis[v_i]=\delta (s,v_i)$呢？这是因为边$(v_t,v_i)$并不是最短路径$p$上的一条边，所以松弛$(v_t,v_i)$后，$dis[v_i]$不是直接等于$\delta (s,v_{i-1})$
• 然后松弛了最短路径$p$上的某一条边$(v_{i-1},v_i)$，由于它是最短路径$p$上的边，因此松弛过后，由松弛性质、收敛性质、上界性质可知，$dis[v_i]=\delta (s,v_i)$

这表明了，如果路径$p=<v_0,v_1,\cdots ,v_k>$是从源点$s=v_0$到节点$v_k$的一条最短路径，并且我们对$p$的边按照$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1}\to v_k$的顺序进行了松弛操作，不论我们在其中穿插了多少不在路径p上的其它边，例如按照如下顺序进行松弛操作：

• 按照$v_0\to v_1,v_{t_0}\to v_{t_1},v_1\to v_2,\cdots ,v_{k-1}\to v_k$，即插入了$v_{t_0}\to v_{t1}$，但只是在原来$p$的顺序中插入，并没有打乱之前$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1}\to v_k$的顺序
• 按照$v_1\to v_2,v_0\to v_1,v_{k-1}\to v_k,v_1\to v_2,\cdots ,v_{k-1}\to v_k$，即插入了$v_1\to v_2$和$v_{k-1}\to v_k$，但只是在原来$p$的顺序中插入，并没有打乱之前$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1}\to v_k$的顺序
• 也就是说，不论你在$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1}\to v_k$这个顺序中，插入了多少条松弛边，最终的结果都是$dis[v_k]=\delta (s,v_k)$
• 但是要注意，证明的前提是路径$p=<v_0,v_1,\cdots ,v_k>$是从源点$s=v_0$到节点$v_k$的一条最短路径

举个栗子解释上面的证明：

假设$p(v_0,v_1,v_4)$是$s=v_0$到$v_4$的最短路径，且$\delta (s,v_4)=-3$，初始化dis数组为：

s=v0	v1	v2	v3	v4
0	INF	INF	INF	INF

• 栗子一：假设我们按照$v_0\to v_1,v_1\to v_4,\cdots$的顺序进行松弛操作，那么对$v_0\to v_1$松弛后，$dis[v_0]+w(u,v)=0+2=2<dis[v_1]=\infty$，所以松弛后，$dis[v_1]$被更新为2；接着对$v_1\to v_4$松弛后，$dis[v_1]+w(u,v)=2+(-5)=-3<dis[v_4]=\infty$，所以$dis[v_4]$被更新为-3$\cdots$
• 栗子二：假设我们按照$v_0\to v_1,v_3\to v_4,v_0\to v_2,\cdots ,v_1\to v_4$，在正确顺序中插入了$v_3\to v_4,v_0\to v_2$。那么对$v_0\to v_1$松弛后，$dis[v_0]+w(u,v)=0+2=2<dis[v_1]=\infty$，所以松弛后，$dis[v_1]$被更新为2；那么对$v_3\to v_4$松弛后，$dis[v_3]+w(u,v)=\infty +2=\infty +2>dis[v_1]=\infty$，所以松弛后，$dis[v_4]$没有被更新，仍然保持原来的值$\infty$；那么对$v_0\to v_2$松弛后，$dis[v_0]+w(u,v)=0+3=3<dis[v_2]=\infty$，所以松弛后，$dis[v_2]$被更新为2；$\cdots$；接着对$v_1\to v_4$松弛后，$dis[v_1]+w(u,v)=2+(-5)=-3<dis[v_4]=\infty$，所以$dis[v_4]$被更新为-3。可以发现，即使插入了一些不在最短路径$p$中的边，并且对这些边松弛后，也不影响最终的结果$dis[v_4]=\delta (s,v_4)=-3$
• 栗子三：假设我们按照$v_1\to v_4,v_0\to v_1,\cdots ,v_1\to v_4$，那么对$v_1\to v_4$松弛后，$dis[v_4]+w(u,v)=\infty +(-5)=\infty -5<dis[v_4]=\infty$，所以松弛后，$dis[v_4]$被更新为$\infty -5$；那么对$v_0\to v_1$松弛后，$dis[v_0]+w(u,v)=0+2=2<dis[v_1]=\infty$，所以松弛后，$dis[v_1]$被更新为2；$\cdots$；接着对$v_1\to v_4$松弛后，$dis[v_1]+w(u,v)=2+(-5)=-3<dis[v_4]=\infty$，所以$dis[v_4]$被更新为-3
• 也就是说，不论在$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1},v_k$中插入了啥，松弛后，都会有$dis[v_k]=\delta (s,v_k)$，这就是路径松弛性质

---

Bellman_Ford

为什么Bellman_Ford算法最外层最多迭代V-1次，就可以求出源点到其他各点的最短距离呢？

对于BF算法来说，外层循环控制迭代次数，内层循环每次都是对所有边进行松弛。但是对所有边进行松弛，这里所有边的顺序都不一定就是我们想要的按照$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1}\to v_k$的完美顺序，如果它能直接按照最短路径$p$的顺序进行松弛，那么就可以很快得出结果。但是，由于我们每一轮，都是对所有边进行松弛，那么第一轮中一定包含$v_0\to v_1$，第二轮中一定包含$v_1\to v_2$，$\cdots$，第$k$轮中一定包含$v_{k-1}\to v_k$，那么结合这么多轮的顺序，每一轮都抽出关键的，然后排列，最终一定会得到我们想要的按照$v_0\to v_1,v_1\to v_2,\cdots ,v_{k-1}\to v_k$的完美顺序。

举个简单的栗子：

设源点$s=v_0$，初始化dis数组为$[0,\infty ,\infty ,\infty ,\infty ]$

• 最好的情况：所有边的顺序为$v_0\to v_1,v_1\to v_2,v_2\to v_3,v_3\to v_4$，迭代1次，进入第一轮后，dis数组变为$[0,2,0,-1,4]$，即只需要迭代一次，就可以找到了源点$v_0$的单源最短路径
• 最坏的情况：所有边的顺序为$v_3\to v_4,v_2\to v_3,v_1\to v_2,v_0\to v_1$，则需要迭代4次，才能找到源点$v_0$的单源最短路径
  • 第一轮：松弛$v_3\to v_4$，由于$dis[v_3]+w(v_3,v_4)=\infty +5>dis[v_4]=\infty$，所以$v_4$保持不变。仍为$dis[v_4]=\infty$；松弛$v_2\to v_3$，由于$dis[v_2]+w(v_2,v_3)=\infty +(-1)<dis[v_3]=\infty$，所以$v_3$被更新为$\infty -1$；松弛$v_1\to v_2$，由于$dis[v_1]+w(v_1,v_2)=\infty +(-2)<dis[v_2]=\infty$，所以$v_2$被更新为$\infty -2$；松弛$v_0\to v_1$，由于$dis[v_0]+w(v_0,v_1)=0+2<dis[v_1]=\infty$，所以$v_1$被更新为2。所以dis数组变为$[0,2,\infty -2,\infty -1,\infty ]$，其实在数学中来说，正无穷加或减去一个很小的数，结果仍是正无穷，因此这里$v_3$被更新为$\infty -1$其实也可以看作是$\infty$，其他同理。这里只是为了看出松弛操作的结果。所以这里dis数组严格来说其实是$[0,2,\infty ,\infty ,\infty ]$
  • 第二轮：松弛$v_3\to v_4$，由于$dis[v_3]+w(v_3,v_4)=\infty -1+5>dis[v_4]=\infty$，所以$v_4$保持不变。仍为$dis[v_4]=\infty$；松弛$v_2\to v_3$，由于$dis[v_2]+w(v_2,v_3)=\infty -2+(-1)<dis[v_3]=\infty -1$，所以$v_3$被更新为$\infty -2$；松弛$v_1\to v_2$，由于$dis[v_1]+w(v_1,v_2)=2+(-2)<dis[v_2]=\infty -2$，所以$v_2$被更新为$0$；松弛$v_0\to v_1$，由于$dis[v_0]+w(v_0,v_1)=0+2==dis[v_1]=2$，所以$v_1$不变。所以dis数组变为$[0,2,0,\infty -2,\infty ]$
  • 第三轮：松弛$v_3\to v_4$，由于$dis[v_3]+w(v_3,v_4)=\infty -2+5>dis[v_4]=\infty$，所以$v_4$保持不变。仍为$dis[v_4]=\infty$；松弛$v_2\to v_3$，由于$dis[v_2]+w(v_2,v_3)=0+(-1)<dis[v_3]=\infty -2$，所以$v_3$被更新为$-1$；松弛$v_1\to v_2$，由于$dis[v_1]+w(v_1,v_2)=2+(-2)==is[v_2]=0$，所以$v_2$不变；松弛$v_0\to v_1$，由于$dis[v_0]+w(v_0,v_1)=0+2==dis[v_1]=2$，所以$v_1$不变。所以dis数组变为$[0,2,0,-1,\infty ]$
  • 第三轮：松弛$v_3\to v_4$，由于$dis[v_3]+w(v_3,v_4)=-1+5<dis[v_4]=\infty$，所以$v_4$被更新为4；松弛$v_2\to v_3$，由于$dis[v_2]+w(v_2,v_3)=0+(-1)==dis[v_3]=\infty -2$，所以$v_3$不变；松弛$v_1\to v_2$，由于$dis[v_1]+w(v_1,v_2)=2+(-2)==is[v_2]=0$，所以$v_2$不变；松弛$v_0\to v_1$，由于$dis[v_0]+w(v_0,v_1)=0+2==dis[v_1]=2$，所以$v_1$不变。所以dis数组变为$[0,2,0,-1,4]$
  • 总结：可以发现，如果按照所有边的顺序为$v_3\to v_4,v_2\to v_3,v_1\to v_2,v_0\to v_1$，则需要迭代4次，第一轮抽出$v0\to v_1$；第二轮抽出$v_1\to v_2$；第三轮抽出$v_2\to v_3$；第四轮抽出$v_3\to v_4$，那么仍然可以排列成我们想要的顺序$v_0\to v_1,v_1\to v_2,v_2\to v_3,v_3\to v_4$，但是要得出这个正确的顺序，得需要迭代V-1次。

由于最短路径是简单路径，不含有回路，因此，如果有V各顶点，那么最短路径$p$最多有V-1条边。也就是说，最坏迭代V-1次，就能找到源点到其他各点的最短距离了

举个复杂的栗子：

设源点$s=v_0$，初始化dis数组为$[0,\infty ,\infty ,\infty ,\infty ]$，已$dis[v_0]=\delta (s,v_0)=0$。

对于源点$v_0$到图中其它点的最短路径$p$，那么$p$中最少含有1条边，最多含有V-1条边

如何理解第$k$次迭代中，就找到了经历$k$条边的最短路径呢？

例如在之前给出的图中，按照所有边的顺序为$v_3\to v_4,v_2\to v_3,v_1\to v_2,v_0\to v_1$，第一次迭代，抽出$v_0\to v_1$，得到了起点$v_0$到节点$v_1$的最短距离，而$v_0$到$v_1$只经过1条边，因此，经过第1次迭代后，我们找到了经历1条边的最短路径$v_0\to v_1$；第二次迭代，抽出$v_1\to v_2$，得到了起点$v_0$到节点$v_2$的最短距离，而$v_0$到$v_2$经历了2条边，因此，经过2次迭代后，我们找到了经历2条边的最短路径$v_0\to v_1\to v_2$；第三次迭代，抽出$v_2\to v_3$，得到了起点到节点$v_3$的最短距离，而$v_0$到$v_3$经历了3条边，因此经过3次迭代后，我们找到了经历3条边的最短路径$v_0\to v_1\to v_2\to v_3$；第四次迭代，抽出$v_3\to v_4$，得到了起点到节点$v_4$的最短距离，而$v_0$到$v_4$经历了4条边，因此经过4次迭代后，我们找到了经历4条边的最短路径$v_0\to v_1\to v_2\to v_3\to v_4$；

因此，第$k$次迭代中，就找到了经历$k$条边的最短路径。

---

Bellman_Ford判负环

---