大话动态规划
动态规划在《算法导论》这本书中谈了很多,首先介绍了2个例子问题,钢条切割和矩阵链乘法,动态规划说白了就是区别于分治法的另一种优化问题的思想,分治法中经常有重复性计算子问题的现象,而动态规划恰恰避免了这种子问题重叠现象,,它目的在于解决最优化问题。
在书中给了我们4个步骤
- 刻画一个最优解的结构
- 递归地定义最优解的值
- 计算最优解的值
- 利用计算出的信息构造一个最优解
在钢条切割中,我们按照上面4个步骤走,首先考虑的问题是怎么切,从哪切,书中说一个n英寸的钢条共有次切割方案,如果用递归的话,每次 切一块或两块都需要重复计算,反复求解相同问题,效率太低。
而使用动态规划的话,有两种方法,一种是自底向上方法,另一种是带备忘录的方法,这两种方法类似,目的都是避免了重复计算,区别就是自底向上方法是将子问题按照从小到大的顺序排序了,先算最小的,大的再算的话就直接用小的算出来的结果就行,不需要重复计算,而带备忘录的方法是按自然的顺序去算,不过过程中会保存每个子问题的解,当后续需要用的时候,做一个判断,如果之前算过就去那个保存了的地方拿,如果没有就算。 最后一步重构解说的是之前计算最优解后并没有给出具体在哪个位置切割,重构解时在原来计算了最大收益的后边再保存一个最优解对应的第一段钢条的切割长度。
在矩阵链乘法中,首先我们得明白是干什么的,矩阵相乘满足结合律,不管咋算结果一样,现在我们就是在结果一样的大前提下稿研究,因为矩阵这东西在中间计算的时候,先后顺序变了,乘法的 次数是不一样的,我们的目的就是找到一个最优的解,即乘法次数最少的情况。
这里还是按照四个步骤走一遍,因为书上也是这么走的,这里简化一样,说上表达的我感觉有点繁琐,看的看的容易忘掉这个变量是干啥的。首先我们得求得就是最优解的结构特征了,书上说了一种“剪切-复制”的方法,说白了就是先假定分割点在k和k+1之间,注意这里是假定,然后矩阵链此时被分成了2部分,我们对前半部分采用独立求解,如果不呢,书上说,如果不就讲前半部分的最优解带入到大的链中即带入到i-j这个中,代替原来的解,显示短的链所得到的的代价肯定是小于长链的,现在就出现了两个最优解,相矛盾了,所以必须得独立求解,即我们在构造一个矩阵链乘法问题的最优解时,将问题划分成两个子问题,独立的求解子问题的最优解,之后再往一起合。
步骤2需要递归的求解,即现在我们需要分别的去求子问题的解,书中定义了一个m数组表示计算矩阵A所需标量乘法次数的最小值,记住是最小值,于是我们可以得到这样一个核心的递归式:,此递归式假定最优分割点k是已知的,这里i<j。最优解要么在左,要么在右,要么直接求,只有这三种,就像那句话说的,原问题的最优解是由子问题的最优解组合而成。
步骤3中我们就开始用递归式去求解最优代价,书中介绍了自底向上表格法求解代价。核心就是那个公示,理解后,根据这个递归的算就行,就是比大小,选最小。
步骤4是构造最优解,与前面钢条切割同样的道理,递归算法只是求出了计算矩阵链乘积所需要的的最少标量乘法运算次数,并没有直接指出如何算,就是如何分的问题,这里加入s数组记录那个分割点,介于k-k+1之间的那个点。
动态规划原理
动态规划两个重要的要素,就是核心点,即最优子结构和子问题重叠。每回考虑问题时,我们可以从原问题是否可以进行划分乘若干个子问题,子问题是否具有最优结构,可以独立求解,最后组成大问题的最优解。