动态规划详解

动态规划问题的⼀般形式就是求最值。动态规划其实是运筹学的⼀种最优化方法，只不过在计算机问题上应⽤⽐较多，⽐如说让你求最⻓递增⼦序列 呀，最⼩编辑距离呀等等。
既然是要求最值，核⼼问题是什么呢？求解动态规划的核⼼问题是穷举。因为要求最值，肯定要把所有可⾏的答案穷举出来，然后在其中找最值呗。
动态规划就这么简单，就是穷举就完事了？我看到的动态规划问题都很难啊！
⾸先，动态规划的穷举有点特别，因为这类问题存在「重叠⼦问题」，如果 暴⼒穷举的话效率会极其低下，所以需要「备忘录」或者「DP table」来优 化穷举过程，避免不必要的计算。
⽽且，动态规划问题⼀定会具备「最优⼦结构」，才能通过⼦问题的最值得 到原问题的最值。
另外，虽然动态规划的核⼼思想就是穷举求最值，但是问题可以千变万化， 穷举所有可⾏解其实并不是⼀件容易的事，只有列出正确的「状态转移⽅ 程」才能正确地穷举。
以上提到的重叠⼦问题、最优⼦结构、状态转移⽅程就是动态规划三要素。 具体什么意思等会会举例详解，但是在实际的算法问题中，写出状态转移⽅ 程是最困难的，这也就是为什么很多朋友觉得动态规划问题困难的原因，我 来提供我研究出来的⼀个思维框架，辅助你思考状态转移⽅程：
明确「状态」 -> 定义 dp 数组/函数的含义 -> 明确「选择」-> 明确 base case。
下⾯通过斐波那契数列问题和凑零钱问题来详解动态规划的基本原理。前者 主要是让你明⽩什么是重叠⼦问题（斐波那契数列严格来说不是动态规划问 题），后者主要举集中于如何列出状态转移⽅程。
请读者不要嫌弃这个例⼦简单，只有简单的例⼦才能让你把精⼒充分集中在 算法背后的通⽤思想和技巧上，⽽不会被那些隐晦的细节问题搞的莫名其 妙。想要困难的例⼦，历史⽂章⾥有的是。
⼀、斐波那契数列
1、暴⼒递归
斐波那契数列的数学形式就是递归的，写成代码就是这样：

int fib(int N) {
 if (N == 1 || N == 2) return 1; 
return fib(N - 1) + fib(N - 2);
 }

这个不⽤多说了，学校⽼师讲递归的时候似乎都是拿这个举例。我们也知道 这样写代码虽然简洁易懂，但是⼗分低效，低效在哪⾥？假设 n = 20，请画 出递归树。
PS：但凡遇到需要递归的问题，最好都画出递归树，这对你分析算法的复 杂度，寻找算法低效的原因都有巨⼤帮助。

这个递归树怎么理解？就是说想要计算原问题 f(20) ，我就得先计算出⼦ 问题 f(19) 和 f(18) ，然后要计算 f(19) ，我就要先算出⼦问题 f(18) 和 f(17) ，以此类推。最后遇到 f(1) 或者 f(2) 的时候，结果已知，就 能直接返回结果，递归树不再向下⽣⻓了。
递归算法的时间复杂度怎么计算？⼦问题个数乘以解决⼀个⼦问题需要的时 间。
⼦问题个数，即递归树中节点的总数。显然⼆叉树节点总数为指数级别，所 以⼦问题个数为 O(2^n)。
解决⼀个⼦问题的时间，在本算法中，没有循环，只有 f(n - 1) + f(n - 2) ⼀ 个加法操作，时间为 O(1)。
所以，这个算法的时间复杂度为 O(2^n)，指数级别，爆炸。
观察递归树，很明显发现了算法低效的原因：存在⼤量重复计算，⽐如 f(18) 被计算了两次，⽽且你可以看到，以 f(18) 为根的这个递归树体量 巨⼤，多算⼀遍，会耗费巨⼤的时间。更何况，还不⽌ f(18) 这⼀个节点被重复计算，所以这个算法及其低效。
这就是动态规划问题的第⼀个性质：重叠⼦问题。下⾯，我们想办法解决这 个问题。
2、带备忘录的递归解法
明确了问题，其实就已经把问题解决了⼀半。即然耗时的原因是重复计算， 那么我们可以造⼀个「备忘录」，每次算出某个⼦问题的答案后别急着返 回，先记到「备忘录」⾥再返回；每次遇到⼀个⼦问题先去「备忘录」⾥查 ⼀查，如果发现之前已经解决过这个问题了，直接把答案拿出来⽤，不要再 耗时去计算了。
⼀般使⽤⼀个数组充当这个「备忘录」，当然你也可以使⽤哈希表（字 典），思想都是⼀样的。

int fib(int N) { 
if (N < 1) return 0; 
// 备忘录全初始化为 0
 vector<int> memo(N + 1, 0);
 // 初始化最简情况 
 return helper(memo, N);
  }
  int helper(vector<int>& memo, int n) {
   // base case if (n == 1 || n == 2) return 1; 
   // 已经计算过
 if (memo[n] != 0) return memo[n]; 
 memo[n] = helper(memo, n - 1) + helper(memo, n - 2); 
 return memo[n]; }

现在，画出递归树，你就知道「备忘录」到底做了什么。

实际上，带「备忘录」的递归算法，把⼀棵存在巨量冗余的递归树通过「剪 枝」，改造成了⼀幅不存在冗余的递归图，极⼤减少了⼦问题（即递归图中 节点）的个数。

递归算法的时间复杂度怎么算？⼦问题个数乘以解决⼀个⼦问题需要的时间。
⼦问题个数，即图中节点的总数，由于本算法不存在冗余计算，⼦问题就是 f(1) , f(2) , f(3) … f(20) ，数量和输⼊规模 n = 20 成正⽐，所以⼦问 题个数为 O(n)。
解决⼀个⼦问题的时间，同上，没有什么循环，时间为 O(1)。
所以，本算法的时间复杂度是 O(n)。⽐起暴⼒算法，是降维打击。 ⾄此，带备忘录的递归解法的效率已经和迭代的动态规划解法⼀样了。实际上，这种解法和迭代的动态规划已经差不多了，只不过这种⽅法叫做「⾃顶 向下」，动态规划叫做「⾃底向上」。
啥叫「⾃顶向下」？注意我们刚才画的递归树（或者说图），是从上向下延 伸，都是从⼀个规模较⼤的原问题⽐如说 f(20) ，向下逐渐分解规模，直 到 f(1) 和 f(2) 触底，然后逐层返回答案，这就叫「⾃顶向下」。
啥叫「⾃底向上」？反过来，我们直接从最底下，最简单，问题规模最⼩的 f(1) 和 f(2) 开始往上推，直到推到我们想要的答案 f(20) ，这就是动 态规划的思路，这也是为什么动态规划⼀般都脱离了递归，⽽是由循环迭代 完成计算。
3、dp 数组的迭代解法
有了上⼀步「备忘录」的启发，我们可以把这个「备忘录」独⽴出来成为⼀ 张表，就叫做 DP table 吧，在这张表上完成「⾃底向上」的推算岂不美哉！

int fib(int N) { 
vector<int> dp(N + 1, 0); 
// base case dp[1] = dp[2] = 1;
 for (int i = 3; i <= N; i++) 
 dp[i] = dp[i - 1] + dp[i - 2]; return dp[N];
  }

画个图就很好理解了，⽽且你发现这个 DP table 特别像之前那个「剪枝」后的结果，只是反过来算⽽已。实际上，带备忘录的递归解法中的「备忘录」，最终完成后就是这个 DP table，所以说这两种解法其实是差不多的，⼤部分情况下，效率也基本相同。
这⾥，引出「状态转移⽅程」这个名词，实际上就是描述问题结构的数学形式：

为啥叫「状态转移⽅程」？为了听起来⾼端。你把 f(n) 想做⼀个状态 n，这个状态 n 是由状态 n - 1 和状态 n - 2 相加转移⽽来，这就叫状态转移，仅此⽽已。
你会发现，上⾯的⼏种解法中的所有操作，例如 return f(n - 1) + f(n - 2)，dp[i] = dp[i - 1] + dp[i - 2]，以及对备忘录或 DP table 的初始化操作，都是围绕这个⽅程式的不同表现形式。可⻅列出「状态转移⽅程」的重要性，它是解决问题的核⼼。很容易发现，其实状态转移⽅程直接代表着暴⼒解法。
千万不要看不起暴⼒解，动态规划问题最困难的就是写出状态转移⽅程，即这个暴⼒解。优化⽅法⽆⾮是⽤备忘录或者 DP table，再⽆奥妙可⾔。
这个例⼦的最后，讲⼀个细节优化。细⼼的读者会发现，根据斐波那契数列 的状态转移⽅程，当前状态只和之前的两个状态有关，其实并不需要那么⻓ 的⼀个 DP table 来存储所有的状态，只要想办法存储之前的两个状态就⾏ 了。所以，可以进⼀步优化，把空间复杂度降为 O(1)：

int fib(int n) {
 if (n == 2 || n == 1) return 1; 
 int prev = 1, curr = 1; 
 for (int i = 3; i <= n; i++)
  { int sum = prev + curr; prev = curr; curr = sum; 
  }
  return curr;
   }

有⼈会问，动态规划的另⼀个重要特性「最优⼦结构」，怎么没有涉及？下 ⾯会涉及。斐波那契数列的例⼦严格来说不算动态规划，因为没有涉及求最 值，以上旨在演⽰算法设计螺旋上升的过程。下⾯，看第⼆个例⼦，凑零钱 问题。
二、凑零钱问题
先看下题⽬：给你 k 种⾯值的硬币，⾯值分别为 c1, c2 … ck ，每种硬 币的数量⽆限，再给⼀个总⾦额 amount ，问你最少需要⼏枚硬币凑出这个 ⾦额，如果不可能凑出，算法返回 -1 。算法的函数签名如下：

 // coins 中是可选硬币⾯值，amount 是⽬标⾦额
  int coinChange(int[] coins, int amount); 

⽐如说 k = 3 ，⾯值分别为 1，2，5，总⾦额 amount = 11 。那么最少需 要 3 枚硬币凑出，即 11 = 5 + 5 + 1。
你认为计算机应该如何解决这个问题？显然，就是把所有肯能的凑硬币⽅法 都穷举出来，然后找找看最少需要多少枚硬币。
1、暴⼒递归
⾸先，这个问题是动态规划问题，因为它具有「最优⼦结构」的。要符合 「最优⼦结构」，⼦问题间必须互相独⽴。啥叫相互独⽴？你肯定不想看数 学证明，我⽤⼀个直观的例⼦来讲解。
⽐如说，你的原问题是考出最⾼的总成绩，那么你的⼦问题就是要把语⽂考 到最⾼，数学考到最⾼…… 为了每门课考到最⾼，你要把每门课相应的选 择题分数拿到最⾼，填空题分数拿到最⾼…… 当然，最终就是你每门课都 是满分，这就是最⾼的总成绩。
得到了正确的结果：最⾼的总成绩就是总分。因为这个过程符合最优⼦结 构，“每门科⽬考到最⾼”这些⼦问题是互相独⽴，互不⼲扰的。 但是，如果加⼀个条件：你的语⽂成绩和数学成绩会互相制约，此消彼⻓。 这样的话，显然你能考到的最⾼总成绩就达不到总分了，按刚才那个思路就 会得到错误的结果。因为⼦问题并不独⽴，语⽂数学成绩⽆法同时最优，所 以最优⼦结构被破坏。
回到凑零钱问题，为什么说它符合最优⼦结构呢？⽐如你想求 amount = 11 时的最少硬币数（原问题），如果你知道凑出 amount = 10 的最少硬币 数（⼦问题），你只需要把⼦问题的答案加⼀（再选⼀枚⾯值为 1 的硬币） 就是原问题的答案，因为硬币的数量是没有限制的，⼦问题之间没有相互 制，是互相独⽴的。
那么，既然知道了这是个动态规划问题，就要思考如何列出正确的状态转移⽅程？
先确定「状态」，也就是原问题和⼦问题中变化的变量。由于硬币数量⽆ 限，所以唯⼀的状态就是⽬标⾦额 amount 。
然后确定 dp 函数的定义：当前的⽬标⾦额是 n ，⾄少需要 dp(n) 个硬 币凑出该⾦额。
然后确定「选择」并择优，也就是对于每个状态，可以做出什么选择改变当 前状态。具体到这个问题，⽆论当的⽬标⾦额是多少，选择就是从⾯额列表 coins 中选择⼀个硬币，然后⽬标⾦额就会减少：

# 伪码框架 
def coinChange(coins: List[int], amount: int):
 # 定义：要凑出⾦额 n，⾄少要 dp(n) 个硬币 def dp(n): 
 # 做选择，选择需要硬币最少的那个结果 
 for coin in coins: res = min(res, 1 + dp(n - coin)) return res 
 # 我们要求的问题是 dp(amount) return dp(amount)

最后明确 base case，显然⽬标⾦额为 0 时，所需硬币数量为 0；当⽬标⾦额 ⼩于 0 时，⽆解，返回 -1：

def coinChange(coins: List[int], amount: int): 
def dp(n):
 # base case if n == 0: return 0
  if n < 0: return -1 
  # 求最⼩值，所以初始化为正⽆穷
   res = float('INF') for coin in coins: subproblem = dp(n - coin) 
   # ⼦问题⽆解，跳过 
   if subproblem == -1: continue res = min(res, 1 + subproblem) return res 
   if res != float('INF') else -1
    return dp(amount)

⾄此，状态转移⽅程其实已经完成了，以上算法已经是暴⼒解法了，以上代 码的数学形式就是状态转移⽅程：

⾄此，这个问题其实就解决了，只不过需要消除⼀下重叠⼦问题，⽐如amount = 11, coins = {1,2,5} 时画出递归树看看：

时间复杂度分析：⼦问题总数 x 每个⼦问题的时间。
⼦问题总数为递归树节点个数，这个⽐较难看出来，是 O(n^k)，总之是指数级别的。每个⼦问题中含有⼀个 for 循环，复杂度为 O(k)。所以总时间复杂度为 O(k * n^k)，指数级别。
2、带备忘录的递归
只需要稍加修改，就可以通过备忘录消除⼦问题：

def coinChange(coins:	List[int],	amount:	int):
				#	备忘录
				memo	=	dict()
				def dp(n):
								#	查备忘录，避免重复计算
								if	n	in	memo:	return	memo[n]
								if	n	==	0:	return 0
								if n < 0: return -1 res = float('INF') 
								for coin in coins: subproblem = dp(n - coin)
								 if subproblem == -1: continue res = min(res, 1 + subproblem)
								  # 记⼊备忘录
								   memo[n] = res if res != float('INF') else -1
								    return memo[n] return dp(amount)

不画图了，很显然「备忘录」⼤⼤减⼩了⼦问题数⽬，完全消除了⼦问题的 冗余，所以⼦问题总数不会超过⾦额数 n，即⼦问题数⽬为 O(n)。处理⼀个 ⼦问题的时间不变，仍是 O(k)，所以总的时间复杂度是 O(kn)。
3、dp 数组的迭代解法
当然，我们也可以⾃底向上使⽤ dp table 来消除重叠⼦问题， dp 数组的定 义和刚才 dp 函数类似，定义也是⼀样的：
dp[i] = x 表⽰，当⽬标⾦额为 i 时，⾄少需要 x 枚硬币。

int coinChange(vector<int>& coins, int amount) { 
// 数组⼤⼩为 amount + 1，初始值也为 amount + 1
 vector<int> dp(amount + 1, amount + 1);
  // base case dp[0] = 0; for (int i = 0; i < dp.size(); i++) 
  { // 内层 for 在求所有⼦问题 + 1 的最⼩值 
  for (int coin : coins) {
   // ⼦问题⽆解，跳过 
   if (i - coin < 0) continue; dp[i] = min(dp[i], 1 + dp[i - coin]); } 
   }
   return (dp[amount] == amount + 1) ? -1 : dp[amount]; }

PS：为啥 数组初始化为 amount + 1 呢，因为凑成 amount ⾦额的硬币数最多只可能等于 amount （全⽤ 1 元⾯值的硬币），所以初始化为amount + 1 就相当于初始化为正⽆穷，便于后续取最⼩值。
三、最后总结
第⼀个斐波那契数列的问题，解释了如何通过「备忘录」或者「dp table」的⽅法来优化递归树，并且明确了这两种⽅法本质上是⼀样的，只是⾃顶向下和⾃底向上的不同⽽已。
第⼆个凑零钱的问题，展⽰了如何流程化确定「状态转移⽅程」，只要通过状态转移⽅程写出暴⼒递归解，剩下的也就是优化递归树，消除重叠⼦问题⽽已。
如果你不太了解动态规划，还能看到这⾥，真得给你⿎掌，相信你已经掌握了这个算法的设计技巧。
计算机解决问题其实没有任何奇技淫巧，它唯⼀的解决办法就是穷举，穷举所有可能性。算法设计⽆⾮就是先思考“如何穷举”，然后再追求“如何聪明地穷举”
列出动态转移⽅程，就是在解决“如何穷举”的问题。之所以说它难，⼀是因 为很多穷举需要递归实现，⼆是因为有的问题本⾝的解空间复杂，不那么容 易穷举完整。
备忘录、DP table 就是在追求“如何聪明地穷举”。⽤空间换时间的思路，是 降低时间复杂度的不⼆法门，除此之外，试问，还能玩出啥花活？