1 概念
动态规划算法是通过拆分问题,定义问题状态和状态之间的关系,使得问题能够以递推(或者说分治)的方式去解决。在学习动态规划之前需要明确掌握几个重要概念。
阶段对于一个完整的问题过程,适当的切分为若干个相互联系的子问题,每次在求解一个子问题,则对应一个阶段,整个问题的求解转化为按照阶段次序去求解。
状态状态表示每个阶段开始时所处的客观条件,即在求解子问题时的已知条件。状态描述了研究的问题过程中的状况。
决策决策表示当求解过程处于某一阶段的某一状态时,可以根据当前条件作出不同的选择,从而确定下一个阶段的状态,这种选择称为决策。
策略由所有阶段的决策组成的决策序列称为全过程策略,简称策略。
最优策略在所有的策略中,找到代价最小,性能最优的策略,此策略称为最优策略。
状态转移方程状态转移方程是确定两个相邻阶段状态的演变过程,描述了状态之间是如何演变的。
2 使用场景
能采用动态规划求解的问题的一般要具有 3 个性质:
(1)最优化:如果问题的最优解所包含的子问题的解也是最优的,就称该问题具有最优子结构,即满足最优化原理。子问题的局部最优将导致整个问题的全局最优。换句话说,就是问题的一个最优解中一定包含子问题的一个最优解。
(2)无后效性:即某阶段状态一旦确定,就不受这个状态以后决策的影响。也就是说,某状态以后的过程不会影响以前的状态,只与当前状态有关,与其他阶段的状态无关,特别是与未发生的阶段的状态无关。
(3)重叠子问题:即子问题之间是不独立的,一个子问题在下一阶段决策中可能被多次使用到。(该性质并不是动态规划适用的必要条件,但是如果没有这条性质,动态规划算法同其他算法相比就不具备优势)
3 算法流程
(1)划分阶段:按照问题的时间或者空间特征将问题划分为若干个阶段。
(2)确定状态以及状态变量:将问题的不同阶段时期的不同状态描述出来。
(3)确定决策并写出状态转移方程:根据相邻两个阶段的各个状态之间的关系确定决策。
(4)寻找边界条件:一般而言,状态转移方程是递推式,必须有一个递推的边界条件。
(5)设计程序,解决问题
参考: