动态规划

动态规划

分治法是通过递归方法解决子问题然后合并子问题的解来得到整个问题的解。但是如果子问题中存在重复也就是子问题不独立，那么会造成不必要的计算。动态规划（DP：Dynamic Programming）可以很好的解决子问题存在子问题不独立的问题。它对子问题只计算一次，通过一张表记录各个子问题的解，从而避免重复计算。动态规划常常用于在最优化问题之中，常见的背包问题等。

动态规划算法的设计可以分为四个步骤：

<1>描述最优解的结构；

<2>递归定义最优解的值；

<3>按照自底向上的方式计算最优解的值；

<4>根据计算出的结果构造出一个最优解。

背包问题

1、问题描述：假设有n个不同的物体其体积分别为W={W1,W2,...,Wn}，其价值分别为V={V1,V2,...Vn}，提供一个容量为C的背包。问如何装包才能使得所装物体的价值总和最大。

2、问题分析：对于每个物体在不同的装包结果中只能由两种体现，即在包内和不在包内，那么可以将选择结果看成一个0-1向量X={X1,X2,...,Xn}。其中0表示该物体不在包内，1表示物体在包内，由此不同装包方式的结果可以描述成 V_total = X .* V = X1*V1+...+Xn*Vn。那么问题可以重新表述为：max(V_total) : X.*W <=C。 

3、提出命题：如果n件物品装包的最优结果为Xres(N) = {X(1),X(2),...,X(n)}，那么对于前n-1件物品，其最优装包结果为Xres(N-1)={X(1),X(2),...,X(n-1)}。

      反证：如果该前n-1件物品的装包结果不为最优，那么就必然存在一个装包序列Yres(N-1)={Y(1),Y(2),...,Y(n-1)},使得Yres(N-1) .* W(N-1) + X(n) * Vn> Xres(N-1) .* W(N-1) + X(n) * Vn。也就是说装包结果{Y(1),Y(2),...,Y(n-1)，X(n)}的结果是最优的，与之前的假设矛盾，所以原命题成立。

4、递推关系： 定义P(i,j)表示前 i 件物品在容量 j 下的最优装包结果。那么对于下一件物品，存在两种可能性：装下（背包剩余容量大于待装物体的体积）或者装不下（没有足够的容量装下该物体）。因此，可以写出该表达式：P(i , j) = max{ P(i-1 , j) , P(i - 1, j - Wi) + Vi } ，其中 j > Wi。

5、计算结果：自底向上的计算。先计算边界即当i = 0 和 j = 0 的情况，然后一次递推直至得到最优结果。

 最优子结构（optimal substructure）

如果问题的一个最优解中含有子问题的最优解，那么该问题具有最优子结构。在寻找最优子结构时可以遵循一种共同的模式：

1）问题的一个解可以是做一个选择。（背包问题中的第 i 个物体装不装包，这个选择决定了从之前 i - 1件物体在 j 容量下还是在 j - Wi 容量下变化而来）

2）假设对一个给定的问题，已知的是一个可以导致最优解的选择。（P(i - 1, j)，P(i - 1, j - Wi)是前 i - 1 件物体在对应容量下的最好的装包组合结果）

3）在已知这个选择后，要确定哪些子问题会随之发生，以及如何更好的描述所得到的子问题空间。（子问题P(i - 1, j)，P(i - 1, j - Wi)）

4）证明在问题的一个最优解中，使用的子问题的解本身也是最优的。（反证法）

最优子结构在问题域中以两种方式变化：有多少个子问题被使用在原问题的一个最优解中；在决定一个最优解中使用哪些子问题时有多少个选择。

二、重叠子问题

当一个递归算法不断地调用同一个子问题（而不是类似的子问题）的时候，我们就说该最优问题包含重叠子问题。而分治法往往会在递归的过程中产生新的子问题。

References：

      1、 什么是动态规划？动态规划的意义是什么？

      2、算法导论

      3、 动态规划解决01背包问题

      4、 动态规划之01背包问题（最易理解的讲解）