零、概述
分治是十分重要的算法,也是计算机的基本思想,分治算法的核心就是划分已有的问题,减小问题规模,在子问题已经解决的基础上对子问题的解进行合并得到最终的解。这个技巧是很多高效算法的基础,如排序算法(快速排序,归并排序),傅立叶变换(快速傅立叶变换)
一、基本概念
计算机求解的问题所需的计算时间与其规模相关。问题的规模越小,越容易直接求解,当问题规模不断增大时,往往不能对问题直接求解,但是可以将其划分为若干子问题求解加以合并,避免了大规模问题求解时元素的互相制约,分治就是将求解元素的互相制约集中在Merge阶段,有效的避免了上述问题。
二、基本思想及策略
分治策略是:对于一个规模较大的问题,若该问题可以容易地解决则直接解决,否则将其分解为若干个规模较小的子问题,这些子问题互相独立且与原问题形式相同,递归地解这些子问题,然后将各子问题的解合并得到原问题的解。
三、分治法适用的情况
分治法所能解决的问题一般具有以下几个特征:
1) 该问题的规模缩小到一定的程度就可以容易地解决
2) 该问题可以分解为若干个规模较小的相同问题,即该问题具有最优子结构性质。
3) 利用该问题分解出的子问题的解可以合并为该问题的解;
4) 该问题所分解出的各个子问题是相互独立的,即子问题之间不包含公共的子子问题。
其中前两条是大多数问题显然满足的,关键在于后两条。
第三条十分关键,能否利用分治法完全取决于问题是否具有第三条特征,如果子问题无法合并,那么划分也是徒劳的,子问题之间无法建立有效的联系,导致划分失去意义。
第四条其实是分治与动态规划的典型区别,动态规划所解决的问题就是子问题的重叠性问题,若分治算法的子问题重叠,那么必将导致复杂度的急剧提升,例如用分治求解斐波那契数列问题。
四、分治法的基本步骤
分治法在每一层递归上都有三个步骤:
- 分解:将原问题分解为若干个规模较小,相互独立,与原问题形式相同的子问题;
- 解决:若子问题规模较小而容易被解决则直接解,否则递归地解各个子问题
- 合并:将各个子问题的解合并为原问题的解。
五、典型应用
其中在线性时间求中位数是分治算法最突出的体现,它的变形是取第K大的元素
第一步:将数组每5个元素划分为一组进行排序。
第二步:将每个小数组中第三个元素(中位数)取出。
第三步:对所有中位数进行整体排序,得到整个数组的中位数。
第四步:用快排中的划分算法对数组进行划分,并得到划分位置K
第五步,递归调用该算法求解。
六、分治算法的复杂度
分治算法一般都满足以下的递归方程
T(n) = a * T(n/b) + O(f(n))
这是典型的Master定理可以求解的形式,若不满足Master定理也可以用迭代法求解。