动态规划算法通常用于求解具有某种最优性质的问题
,在这类问题中,可能会有许多可行解,每一个可行解都对应一个值,我们希望找到具有最优值的解。
1 基本思想
动态规划算法的实质是分治思想和解决冗余
,因此它与分治法和贪心法类似,它们都是将待求解问题分解为更小的、相同的子问题,然后对子问题进行求解,最终产生一个整体最优解
。
贪心法的当前选择可能要依赖于已经做出的选择,但不依赖于还未做出的选择和子问题,因此它的特征是自顶向下
,一步一步地做出贪心选择,但如果当前选择可能要依赖子问题的解时,则难以通过局部的贪心策略达到整体最优解。
分治法中的各个子问题是独立的(即不包含公共的子问题),因此一旦递归地求出各子问题的解后,便可自下而上
地将子问题的解合并成原问题的解。但如果各个子问题是不独立的,则分治法要做许多不必要的工作,即重复地解公共的子问题,对时间的消耗太大。
适合采用动态规划法求解的问题,经分解得到的各个子问题往往不是相互独立的。在求解过程中,将已解决的子问题的解进行保存,在需要时可以轻松找出。这样就避免了大量的无意义的重复计算,从而降低算法的时间复杂性。具体的动态规划算法多种多样,但它们具有相同的填表格式
。
与贪心法的异同:
- 相同:都是用于求解最优化问题;都采用分步决策,计算出每一步的最优解。
- 不同:贪心法的每一步决策依赖于最优量度标准,不依赖于子问题的解和尚未作出的选择;动态规划法每一步决策依赖于子问题的解,无需最优量度标准。
与分治法的异同:
- 相同:都将问题话分成若干个规模较小的同类型子问题。
- 不同:分治法会有重叠子问题的现象,对于一些子问题会重复计算,而动态规划法能避免重叠子问题现象。
设n=4,则F(4)的求解过程可表示为一棵二叉树,如图所示。同种阴影表示相同的子问题,即说明F(4)划分的两个子问题F(3)和F(2)不是相互独立的。若采用自顶向下的递归求解, F(2)子问题重复计算。如果n=5,则F(3)和F(2)两个子问题会重复计算。以此类推,n越大,重复计算现象越严重,影响求解效率。
动态规划在求解过程中采用一维数组a存放各个子问题的解。首先,将F(0)和F(1)的解存于a[0]、a[1]中,然后在求解F(2)时,由于F(2)=F(1)+F(0),因此只需直接从数组a中取出F(1)和F(0)的值计算即可,并将F(2)的值存人a[2]中;接下来求解F(3)时,只需从数组a中取出F(2)和F(1)的值直接对F(3)进行求解,并将求得的值存人a[3]中;最后,在求解F(4)时,从数组a中取出F(3)和F(2)的值直接对F(4)进行求解,并将求得的值存入α[4]中。
由此可见,动态规划的关键在于解决冗余
,将原来具有指数级复杂性的搜索算法改进成具有多项式时间的算法,这是动态规划算法的根本目的。其实,动态规划是对贪心算法和分治法的一种折中,它所解决的问题往往不具有可爱的贪心实质,但是各个子问题又不是完全零散的。在实现的过程中,动态规划方法需要存储各种状态,所以它的空间复杂性要大于其他的算法,这是一种以空间换取时间的技术
。
注:参考书本《算法设计与分析》(由王秋芬、吕聪颖、周春光编著)