[算法分析笔记]最小生成树 （Minimum Spanning Tree）- 贪婪算法 （Greed Algorithm）

一. 复习图（Graph）的表示法

$GraphG=(V,E)$

• $V$是所有的顶点的集合
• $E$是所有的连接顶点的边的集合， $E$
  无向图， $E$包含的边是没有方向性的。
  有向图，$E$包含的边是有方向性的。

图的一些属性

• $|E|=O(V^2)$
• 如果G是连通的，即从任意两个顶点之间有通路存在，$|E|>|V|-1$
• $lg(|E|)=\theta (lg(|V|))$

图的表示方法

• 连接矩阵 $G=(V,E)$, 当$V=1,2,...,n$时nxn矩阵A可以标记为
  $A[i,j]=\{\begin{array}{ll}1& \text{当}(i,j)\in E\\ 0& \text{当}(i,j)\notin E\end{array}$
  适合用这种方式表示的图：完全图
  
• 连接列表，对于顶点集合$V\in A$，其连接列表可以表示为
  $Adj[1]=2,3$
  $Adj[2]=3$
  $Adj[3]=$
  $Adj[4]=3$
  $|Adj[v]|=\{\begin{array}{ll}顶点的度数& \text{无向图}\\ 顶点的出度& \text{有向图}\end{array}$

无向图中的边可以称作握手（handshaking）， ${\sum }_{v\in V}degree(V)=2|E|$。

二. 最小生成树（Minimum Spanning Tree - MST）

输入： 连通的无向图$G=(V,E)$由有权重的边相连接，$N:E\to R$
*为了简化问题，我们假设每条边的权重都不一样
输出一个包含所有顶点的最小总权重的树
$W(T)={\Sigma }_{(u,v)\in T}W(u,v)$
如下图：

最优子结构

一棵最优子树如下图所示：

将上图中的$(u,v)$边移出，则T被分成两棵最小生成树子树，$T_1和T_2$。则，$T_1和T_2$是$G$的子图$G1和G2$的最小生成树，其中：
$G1=(V_1,E)，V_1是所有T_1的顶点$，
$G2=(V_2,E)，V_1是所有T_2的顶点$。
证明：
如果对图$G1$存在$T_1^{\prime }$是比$T_1$更优的最小生成树，那么对于图$G$而言$T^{\prime }=(u,v)\bigcup T_1^{\prime }\bigcup T_2$必然要比$T$更优的最小生成树，与题设矛盾，故$T_1$必是$G_1$的最小生成树。
证毕

由此，我们看到最小生成树问题是可以分割成最优子结构的，我们第一想到的是动态规划。但是，实际上对于这个问题还存在一个更好的算法 - 贪婪算法（Greed Algorithm）。

三. 贪婪算法的标志

贪婪选择属性： 一个局部的最优选择也是全局的最优选择。

如果$T$是$G=(V,E)$的最小生成树，并且$A\subset V$，假设$(u,v)\in E$是最小权重的边连接$A和V-A$，那么$(u,v)\in T$。

证明：假设$(u,v)\notin T$，那么必然存在一条路径连接$u和v$，将$(u,v)$和该路径上的第一条边交换，即删除该路径上的第一条边（下图中红色叉标记处），并添加$(u,v)$，此时出现了一棵比T更低权重和的最小生成树，与题设矛盾。
证毕

四. Prim‘s 算法 - 贪婪算法

基本思想：维护是一个优先队列$Q$作为$V-A$的图中的所有顶点，依次输入每个顶点存在于$Q$列表中且其连接边的权重值最小，并将该顶点一如最小生成树子树$A$中。

伪代码如下：

最后，{(V, pi([V]}就是最后形成的最小生成树。
算法运行的过程如下图所示

1. 第一个顶点是随机选择的
2. 有这个点出发更新和他相连的顶点的权重，并将权重值最小的顶点加入生成树
   
   算法效率分析
   代码的第一部分的算法复杂度是固定的n。
   代码的第二部分的算法复杂度取决于图所包含的顶点数|V|。
   代码第二部分中还包含一个循环，其算法复杂度则取决于每个顶点的度，即每个顶点的所连接的边。
   所以，总的算法复杂度是
   $Time=\theta (V.T_{Extract-min}+E.T_{Decrease-keys})$

$Q$	$T_{Extract-min}$	$T_{Decrease-keys}$	Total
array	$O(V)$	$O(1)$	$O(V^2)$
binary	$O(lgV)$	$O(lgV)$	$O(E.lvV)$
fib beap	$O(lgV{)}_{amortized}$	$O(1{)}_{amortized}$	$O(E+v.lgV)$