五大常用算法之一——分治算法

分治算法（Divide and Conquer）

分治算法，简单理解就是把一个大规模的问题分成相同或者相似的子问题，直到最后子问题能很容易的求解，原问题的解通过子问题的解合并得到。

根据这个描述，我们知道分治算法是需要用到递归的，二叉树的好多操作天然是采用分治算法的。

分治算法需要用到递归，但是用递归的不一定都是分治算法，也可能是动态规划。

分治算法和动态规划是一种思想，递归只是实现方案，还有别的方案。

使用分治算法一般是三步：

1. Divide. Divide the problem SS into a set of subproblems: {S1,S2,...Sn}{S1​,S2​,...Sn​} where n≥2n≥2, i.e. there are usually more than one subproblem.

2. Conquer. Solve each subproblem recursively. 

3. Combine. Combine the results of each subproblem.

 

归并排序和快速排序都是使用分治算法的，我们分别详细说一下

divide阶段：

归并排序，我们使用的是二路归并排序，就是简单的根据中间位置，把数组分成两个子数组。

快速排序，根据选择的pivot，将数组分成两部分，一部分都小于pivot，另一部分大于或者等于pivot。一般选择最后一个元素作为pivot，采用就地排序（不需要额外的临时数组），定义一个i cursor， 表示在遍历过程中，找到小于pivot的值，需要移到的位置，最终是pivot的位置，从头开始遍历到pivot前的位置。遍历结束后，把pivot放到i的位置，这样就divide完了。这个divide过程也叫做partitioning。

从上面的描述，我们可以发现归并排序在divide没做什么工作，快速排序做了大量的工作。

conquer阶段：

这个阶段就是大divide分隔后的子数组，递归的分隔到base case，也就是递归的出口。归并排序是分隔成一个一个子数组的，所以最终到只有一个值的数组，再加上初始数组可能是空的判断就是归并排序的base case了。快速排序采用的是，就地排序，也就对原数组就行操作，所以需要begin和end cursor表示子数组的位置，一般这种方式的base case都是end 小于begin。

combine阶段：

归并排序需要把两个排序好的子数组，合并成一个新数组，归并排序在这个阶段做了大量工作。快速排序，这个阶段不需要做工作，最后的数组就是拍好序的。

 

五大常用算法学习笔记

分治算法

D&C Template