算法设计与分析——算法思想总结

算法设计与分析

1、分治法

分治法的基本思想是将一个规模为n的问题分解为k个规模较小的子问题，这些子问题相互独立且与原问题相同。递归的解这些子问题，然后将各子问题的解合并得到原问题的解。

分治法所能解决的问题一般具有以下几个特征：
　 1) 该问题的规模缩小到一定的程度就可以容易地解决
　 2) 该问题可以分解为若干个规模较小的相同问题，即该问题具有最优子结构性质。
　 3) 利用该问题分解出的子问题的解可以合并为该问题的解；
　 4) 该问题所分解出的各个子问题是相互独立的，即子问题之间不包含公共的子子问题。

分治法的基本步骤：
分治法在每一层递归上都有三个步骤：
　　分解：将原问题分解为若干个规模较小，相互独立，与原问题形式相同的子问题；
　　解决：若子问题规模较小而容易被解决则直接解，否则递归地解各个子问题；
　　合并：将各个子问题的解合并为原问题的解。

平衡子问题：分治算法中，划分出的子问题的规模应基本一致　　
2、动态规划算法：

动态规划：通过把原问题分解为相对简单的子问题的方式求解复杂问题的方法。动态规划常常适用于有重叠子问题和最优子结构性质的问题。

基本思想：若要解一个给定问题，我们需要解其不同部分（即子问题），再合并子问题的解以得出原问题的解。 通常许多子问题非常相似，为此动态规划法试图仅仅解决每个子问题一次，从而减少计算量： 一旦某个给定子问题的解已经算出，则将其记忆化存储，以便下次需要同一个子问题解之时直接查表。 这种做法在重复子问题的数目关于输入的规模呈指数增长时特别有用。

与分治法区别：动态规划算法与分治法类似，都使用了将问题实例归纳为更小的、相似的子问题，并通过求解子问题产生一个全局最优值的思路，但动态规划不是分治法：关键在于分解出来的各个子问题的性质不同。分治法要求各个子问题是独立的(即不包含公共的子问题)，因此一旦递归地求出各个子问题的解后，便可自下而上地将子问题的解合并成原问题的解。如果各子问题是不独立的，那么分治法就要做许多不必要的工作，重复地解公共的子问题。动态规划与分治法的不同之处在于动态规划允许这些子问题不独立(即各子问题可包含公共的子问题)，它对每个子问题只解一次