求解递归式-主方法

分治策略递归式时间复杂度的求解方法主要有三种：代入法、递归树和主方法。其中主方法为求解递归式$T(n)=aT(n/b)+f(n)$提供了一种“菜谱”式的求解方法。

公式：$T(n)=aT(n/b)+f(n)$

其中$a\ge 1$和$b>1$是常数，$f(n)$是渐近正函数。
递归式描述了这样一种算法的运行时间：它将规模为$n$的问题分解成$a$个子问题，每个子问题的规模是$n/b$，其中$a$和$b$都是正常数。$a$个子问题递归地进行求解，每个花费时间$T(n/b)$。函数$f(n)$包含了问题分解和子问题解合并的代价。
从技术的正确性方面看，此递归式并不是良好定义的，因为$n/b$可能不是整数。但将$T(n/b)$替换成$T(\lfloor n/b\rfloor )$或者$T(\lceil n/b\rceil )$，并不影响递归的渐近性质。

主定理

主方法依赖于主定理。
定理 令$a\ge 1$和$b>1$是常数，$f(n)$是一个函数，$T(n)$是定义在非负整数上的递归式：
$T(n)=aT(n/b)+f(n)$
其中$n/b$可以看作$\lfloor n/b\rfloor$或者$\lceil n/b\rceil$。那么$T(n)$有如下渐近界：

1. 若对于某个常数$\epsilon >0$ 有 $f(n)=O(n^{lo{g}_{b}a-\epsilon })$，则$T(n)=\Theta (n^{lo{g}_{b}a})$。
2. 若 $f(n)=\Theta (lo{g}_{b}a)$，则$T(n)=\Theta (n^{lo{g}_{b}a}lgn)$。
3. 若对于某个常数$\epsilon >0$ 有 $f(n)=\Omega (n^{lo{g}_{b}a+\epsilon })$，且对某个常数$c<1$和所有足够大的$n$有$af(n/b)\le cf(n)$，则 $T(n)=\Theta (f(n))$。

对于三种情况的每一种，我们将函数$f(n)$与函数$n^{lo{g}_{b}a}$进行比较。若函数$n^{lo{g}_{b}a}$更大，如情况1，则解为$T(n)=\Theta (n^{lo{g}_{b}a})$。若函数$f(n)$更大，如情况3，则解为$T(n)=\Theta (f(n))$。若两个函数相等，如情况2，则乘上一个对数因子，解为$T(n)=\Theta (n^{lo{g}_{b}a}lgn)=\Theta (f(n)lgn)$。

在此直觉之外，我们需要了解一些技术细节。在第一种情况中，不是$f(n)$小于$n^{lo{g}_{b}a}$就够了，而是要多项式意义上的小于。也就是说，$f(n)$必须渐近小于$n^{lo{g}_{b}a}$，要相差一个因子$n^{\epsilon }$，其中$\epsilon$是大于0的常数。在第三种情况中，不是$f(n)$大于$n^{lo{g}_{b}a}$就够了，而是要多项式意义上的大于，而且还要满足“正则”条件$af(n/b)\le cf(n)$。我们将会遇到的多项式界的函数中，多数都满足此条件。

需要注意的是，这三种情况并未覆盖$f(n)$的所有可能性。情况1和情况2之间有一定的间隙，$f(n)$可能小于$n^{lo{g}_{b}a}$但不是多项式意义上的小于。类似地，情况2和情况3之间也存在一定的间隙，$f(n)$可能大于$n^{lo{g}_{b}a}$但不是多项式意义上的大于。如果函数$f(n)$落在这两个间隙中，或者情况3中要求的正则条件不成立，就不能使用主方法来求解递归式。

使用主方法

先来看一个例子：$T(n)=9T(n/3)+n$
我们有$a=9$，$b=3$，$f(n)=n$，因此 $n^{lo{g}_{b}a}=n^{lo{g}_{3}9}=\Theta (n^2)$。由于$f(n)=O(n^{lo{g}_{3}9-\epsilon })$，其中$\epsilon =1$，因此可以应用主定理的情况1，从而得到解$T(n)=\Theta (n^2)$。

再看例子：$T(n)=T(2n/3)+1$
其中$a=1$，$b=3/2$，$f(n)=1$，因此$n^{lo{g}_{b}a}=n^{lo{g}_{3/2}1}=n^0=1$。由于$f(n)=\Theta (n^{lo{g}_{b}a})=\Theta (1)$，因此应用情况2，从而得到解$T(n)=\Theta (lgn)$

对于递归式：$T(n)=3T(n/4)+nlgn$
其中$a=3$，$b=4$，$f(n)=nlgn$，因此$n^{lo{g}_{b}a}=n^{lo{g}_{4}3}=O(n^{0.793})$。由于$f(n)=\Omega (n^{lo{g}_{4}3+\epsilon })$，其中$\epsilon \approx 0.2$，因此，如果可以证明正则条件成立，即可应用情况3。当$n$足够大时，对于$c=3/4$，$af(n/b)=3(n/4)lg(n/4)\le (3/4)nlgn=cf(n)$。因此，由情况3，递归式的解为$T(n)=\Theta (nlgn)$。

主方法不能递归式：$T(n)=2T(n/2)+nlgn$
虽然这个递归式看起来有恰当的形式：$a=2$$b=2$$f(n)=nlg(n)$，以及$n^{lo{g}_{b}a}=n$。你可能想到要用情况3，因为$f(n)=nlgn$渐近大于$n^{lo{g}_{b}a}=n$。问题出在它并不是多项式意义上的大于。对任意正常数$\epsilon$，比值$f(n)/n^{lo{g}_{b}a}=(nlgn)/n=lgn$都渐近小于$n^{\epsilon }$。因此，递归式落入了情况2和情况3之间的间隙。

如果遇到不能用主方法解决的递归式，就要试着利用递归树或者代入法进行求解。具体的求解过程，可以参照算法导论第四章内容。