递归算法的时间复杂度分析

这一段时间，我研究了一下算法的时间复杂度分析，感觉其中的递归分析挺有意思，就总结一下记录下来，以备以后随时复习查看。

下面假设递归方程式已经给出了，仅仅说明如何计算递归方程的时间复杂度。
对于递归方程的时间复杂度分析，需要分为两个步骤，计算和证明

一、步骤一:计算

遇到一个递归方程，首先看这个递归方程的形式，根据不同的形式又分为两种不同的计算方法：

1.形式如：$T(n)=aT(\frac{n}{b})+f(n)$的递归函数

对于形如$T(n)=aT(\frac{n}{b})+f(n)$的递归函数，我们可以使用下面的公式进行计算其时间复杂度：

$$T(n)=\begin {cases} O(n^{log^a_b}), & O(n^{log^a_b})>O(f(n)) \\ O(f(n)\times logn), & O(n^{log^a_b})=O(f(n)) \\ O(f(n), & O(n^{log^a_b})<O(f(n)) \end {cases}$$
注意：上面的公式中 $a>1,b>1$均为正数， $f(n)$为确定的正函数。

2.形式如：$T(n)=C_1T(n-1)+C_2T(n-2)+ \cdots +C_kT(n-k)+f(n)$的递归函数

对于形如$T(n)=C_1T(n-1)+C_2T(n-2)+ \cdots +C_kT(n-k)+f(n)$的递归函数，要求其中$C_1,C_2, \ldots ,C_k \neq 0$的常数，同时会有$k$个已知的等式$E_1,E_2, \ldots ,E_k$组成形如下面的递归函数：

$$T(n)=\begin {cases} E_1, & n=0 \\ E_2, & n=1 \\ E_3,E4 \ldots E_{k-1} & n=2,3 \ldots k-2 \\ E_k, & n=k-1 \\ C_1T(n-1)+C_2T(n-2)+\cdots+C_kT(n-k)+f(n), & n>k-1 \end {cases}$$
首先从递归式
$$T(n)=C_1T(n-1)+C_2T(n-2)+\cdots+C_kT(n-k)+f(n)$$
入手，将该递归式式移项得：

$$T(n)-C_1T(n-1)-C_2T(n-2)- \cdots -C_kT(n-k)=f(n)$$
然后写出其对应的齐次方程，即根据含有 $T(n),T(n-1),T(n-2), \ldots ,T(n-k)$的个数减去1来确定方程未知数的最大次数为 $k$，然后将方程中的$T(n)$改为未知数的最大次数， $T(n-1)$改为未知数的第二大次数，以此类推，假设齐次方程的未知数是 $t$，则结果如下式：
$$t^k-C_1t^{k-1}-C_2t^{k-2}- \cdots -C_k=f(n)$$
根据该方程的形式，可以知道如果该方程的某个解 $t=r$是 $m$重根，则$m$个解的形式是 $\{ r^n,nr^n,n^2r^n, \ldots ,n^{m-1}r^n \}$，如果剩余的解有多重跟也按照这种形式写出即可，为了简便，假设剩余的解都为单根，则还剩 $(k-m)$个解，其解的形式是 $\{ r^n_1,r^n_2, \ldots ,r^n_{k-m} \}$
然后假设每个解的形式对应的系数分别为 $a_1,a_2, \ldots ,a_k$，则可以写出齐次方程的通解形式：
$$a_1r^n+a_2nr^n+a_3n^2r^n+ \ldots +a_mn^{m-1}r^n+a_{m+1}r^n_1+a_{m+2}r^n_1+ \ldots +a_kr^n_{k-m}$$
为了求解通解中的未知系数 $a_1,a_2, \ldots ,a_k$，需要先求的齐次方程的特解，下面给出特解形式表格，为了简便，令 $C(t) = T(n)-C_1T(n-1)-C_2T(n-2)- \cdots -C_kT(n-k)$

$f(n)$形式	条件	特解形式
$a^n$	$C(a) \neq 0$ ———————- $a$是$C(t)$的$m$重根	$p_0a^n$ ———– $p_0n^ma^n$
$n^s$	$C(1) \neq 0$ ———————- $1$是$C(t)$的$m$重根	$p_0+p_1n+p_2n^2+\ldots +p_sn^s$ ————————————————– $n^m(p_0+p_1n+p_2n^2+\ldots +p_sn^s)$
$n^sa^n$	$C(a) \neq 0$ ———————- $a$是$C(t)$的$m$重根	$(p_0+p_1n+p_2n^2+\ldots +p_sn^s)a^n$ —————————————————- $n^m(p_0+p_1n+p_2n^2+\ldots +p_sn^s)a^n$
常数	无	常数$x$

注意：这个表格中需要求的未知数是：$p_0,p_1, \ldots ,p_s,x$，根据$f(n)$形式和条件在表中找到对应的特解形式———假设特解形式为$M$，令$T(n)=M$回代入到递归方程$T(n)=C_1T(n-1)+C_2T(n-2)+\cdots+C_kT(n-k)+f(n)$中，求出未知数$p_0,p_1, \ldots ,p_s,x$，将这些未知数代回特解中，即得到特解的确定形式，设其确定形式是$\zeta$，则可以写出其次方程的“通解+特解”形式：

$$a_1r^n+a_2nr^n+a_3n^2r^n+ \ldots +a_mn^{m-1}r^n+a_{m+1}r^n_1+a_{m+2}r^n_1+ \ldots +a_kr^n_{k-m}+\zeta$$
最后将递归方程的$k$个已知的等式$E_1,E_2, \ldots ,E_k$代入“通解+特解”形式，解出未知系数$a_1,a_2, \ldots ,a_k$，回代入“通解+特解”形式即得到最终解。

二、步骤二:证明

将第一步算出的时间复杂度带入原来的递归方程，如果没有出现矛盾，则是可能的解，最后用数学归纳法证明即可。

三、举例说明

以后再加上……

References:
python27的博客：http://www.cnblogs.com/python27/archive/2011/12/09/2282486.html