算法设计技巧与分析（四）：动态规划(Dynamic Programming)

---

动态规划(Dynamic Programming)

一、寻找最长公共子序列(The Longest Common Subsequence)

子序列定义如图所示：

问题分析：
设A=“a0，a1，…，am”，B=“b0，b1，…，bn”，且Z=“z0，z1，…，zk”为它们的最长公共子序列。不难证明有以下性质：
如果am等于bn，则zk=am=bn，可知“z0，z1，…，z(k-1)”是“a0，a1，…，a(m-1)”和“b0，b1，…，b(n-1)”的一个最长公共子序列；
如果am不等于bn且zk!=am，可知“z0，z1，…，zk”可能是“a0，a1，…，a(m-1)”和“b0，b1，…，bn”的一个最长公共子序列；如果am不等于bn且zk!=bn，可知“z0，z1，…，zk”可能是“a0，a1，…，am”和“b0，b1，…，b(n-1)”的一个最长公共子序列。

假如S1的最后一个元素 与 S2的最后一个元素相等，那么S1和S2的LCS就等于 {S1减去最后一个元素} 与 {S2减去最后一个元素} 的 LCS 再加上 S1和S2相等的最后一个元素。
假如S1的最后一个元素 与 S2的最后一个元素不等，那么S1和S2的LCS就等于 ： {S1减去最后一个元素} 与 S2 的LCS， {S2减去最后一个元素} 与 S1 的LCS 中的最大的那个序列。

假设我们用c[i,j]表示Xi 和 Yj 的LCS的长度，其中X = {x1 … xm}，Y ={y1…yn}，Xi = {x1 … xi}，Yj={y1… yj}。可得递归公式如下：

算法实现的过程就是利用公式填表的过程：

其中表的大小为(n+1)*(m+1)。

算法的时间复杂度即为表的大小O(nm)；算法的空间复杂度即为O(min{m,n})，不为O(nm)，因为每次运行都只存储所计算的那行和上一行的信息。

二、寻找所有点对的最短路径(The All-Pairs Shortest Path)

我们用$d_{i,j}^k$表示节点i到节点j的最短路径且不经过点{k+1,…,n}，$d_{i,j}^n$即为从i到j的全局最短路径。$d_{i,j}^k$即为不考虑k时的节点i到节点j的最短路径$d_{i,j}^{k-1}$与考虑k时的节点i到节点j的最短路径$d_{i,k}^{k-1}+d_{k,j}^{k-1}$间的最小值。
故我们可以有如下公式：

故对于第k轮的距离矩阵$D_k[i,j]$：

算法实现的过程就是利用公式填表的过程：

算法的时间复杂度即为O($n^3$)；算法的空间复杂度即为O($n^2$)，因为每次运行都只存储前面一个距离矩阵的信息。

三、背包问题(The Knapsack Problem)

首先定义一些变量：Vi表示第 i 个物品的价值，Si表示第 i 个物品的体积。
定义V(i,j)：当前背包容量j，前i个物品{u1,…,ui}最佳组合对应的价值，同时背包问题抽象化（X1，X2，…，Xn，其中 Xi 取0或1，表示第 i 个物品选或不选）。这里i的范围是从0到n，j的范围是从0到C。因此，我们寻求的是值V[n,C]。

则问题定义如下：

面对当前商品有两种可能性：

• 包的容量比该商品体积小，装不下，此时的价值与前i-1个的价值是一样的，即V(i,j)=V(i-1,j)；
• 还有足够的容量可以装该商品，但装了也不一定达到当前最优价值，所以在装与不装之间选择最优的一个，即V(i,j)=max｛V(i-1,j)，V(i-1,j-Si)+v(i)｝。其中V(i-1,j)表示不装，V(i-1,j-w(i))+v(i) 表示装了第i个商品，背包容量减少w(i)，但价值增加了v(i)；

由此得递推关系：

而后使用大小为(n+1)*(C+1)的表来评估V[i,j]的值。我们只需要使用上述公式逐行填写表V[0…n,0…C]。

算法的时间复杂度为O(nC)，即表的大小；空间复杂度为O($C$)，即背包大小。