1、分治法
将原问题划分为n个规模较小而结构与原问题相似的子问题,递归的解决这些子问题,然后合并其结果,就得到原问题的解。由分治法产生的子问题往往是原问题的较小模式,这就为使用递归技术提供了方便,分治和递归像一对孪生兄弟。
分治模式在每一层递归上都有三个步骤:
分解:将原问题分解为若干规模较小,相对独立,与原问题形式相同的子问题。
解决:直接解或递归的解决各子问题。
合并:将各子问题的解合并为原问题的解。
在计算机科学中,很多算法都用到分治的思想,比如,快速排序,归并排序等。
分治法所能解决掉的问题一般具有以下几个特征:
(1)该问题的规模缩小到一定的程度就可以解决;
(2)该问题可以分解为若干规模较小的相同问题,即该问题具有最优子结构
(3)该问题分解出的子问题的解可以合并为该问题的解
(4)各个子问题是相互独立的,不包含公共的子问题。
如果不具备第三条,可以考虑使用贪心法或动态规划
第四条涉及分治法的效率,如果各个子问题不独立,分治法要做许多不必要的工作,重复解决子问题,动态规划会更好。
2、动态规划
动态规划算法通常用于最优化问题,在这类问题中,可能会有许多可行解,而我们希望找到一个具有最优值的解。
动态规划算法和分治法思想类似,也是通过组合子问题的解而解决整个问题的,与分治法不同,动态规划适合于经分解得到的子问题往往不是相互独立的。子问题之间有重复的部分,动态规划可以将这些子问题保存在一个表格中,当再次需要计算已计算过的子问题时,只要在表格上查看一下结果,效率更高。
动态规划算法的设计:
(1)描述最优解的结构
(2)递归定义最优解的值
(3)按自底向上的方式计算最优解的值
(4)由计算的结果构造一个最优解
3、贪心算法
一个全局最优解可以通过局部最优(贪心)选择来达到。这一点是贪心算法不同于动态规划之处。在动态规划中,每一步都要做出选择,但是这些选择依赖于子问题的解。在贪心算法中,我们所做的总是当前看似最佳的选择,然后再解决选择之后的子问题。贪心算法所做的当前选择,可能要依赖于已经做出的所有选择,但不依赖与做出的选择或子问题的解。因此,不像动态规划的自底向上那样,贪心算法通常是自顶向下,一个一个地做出贪心选择,不断地将给定问题缩小为更小的问题。
贪心算法的应用:最小生成树、迪杰斯特拉、哈弗曼树的构造。
理论看的太多了。。。