算法设计与分析——分治

分治：分而治之。先将问题分解divide为k个相似的子问题，递归地分解到很小的情形，然后容易地解决conquer之，最后递归地合并combine。分治在之前就接触过，如二分查找，二分归并排序，都是$O(\log n)$，比暴力的$O(n)$要好太多。上讲提到了主定理，主定理对于求解分治的递推方程很有用。下面用几个经典实例来呈现分治的魅力。

Fibonacci 数列

$F_n=F_{n-1}+F_{n-2}$

如果采用暴力求解，一个个累加，自然是$O(n)$。

但采用线性代数的思想，我们发现

$$\begin{pmatrix} F_{n+1} & F_n \\ F_n & F_{n-1} \\ \end{pmatrix}= \begin{pmatrix} F_{n} & F_{n-1} \\ F_{n-1} & F_{n-2} \\ \end{pmatrix} \begin{pmatrix} 1 &1 \\ 1& 0 \\ \end{pmatrix}=\begin{pmatrix} 1 &1 \\ 1& 0 \\ \end{pmatrix}^n$$

惊奇的是，Fiboncci可以用矩阵的幂来求，幂是人们所喜欢的，因为可以分治，二分法可以轻松地使求幂的复杂度将为对数。考虑到矩阵乘法只是纯数乘法的一个倍数，故降为$O(\log n)$。

Strassen 矩阵乘法

两个n级矩阵相乘，暴力求法是$O(n^3)$，但这能不能再改进呢？显然，平凡的下界是$O(n^2)$，最早strassen给出了$O(n^{\log 7})$的算法。

如果我们只是将矩阵拆成四块，然后逐一相乘，就会产生8个子问题，由主定理，复杂度还是n^3。减少一个子问题都是效果显著的。strassen通过增加中间结果的加减法，成功减少为7个子问题。

递推方程为$T(n)=7T(n/2)+cn^2$. 由主定理，时间复杂度为$O(n^{2.8})$.

图1图2摘自http://www.mamicode.com/info-detail-673908.html
图3摘自算法导论