算法导论 — 思考题4-3 更多的递归式例子

（更多的递归式例子）对下列每个递归式，给出$T(n)$的渐近上界和下界。假定对足够小的$n$，$T(n)$是常数。给出尽量紧确的界，并验证其正确性。
　　a. $T(n)=4T(n/3)+n\mathrm{l}\mathrm{g}n$
　　b. $T(n)=3T(n/3)+n/\mathrm{l}\mathrm{g}n$
　　c. $T(n)=4T(n/2)+n^2\sqrt{n}$
　　d. $T(n)=3T(n/3-2)+n/2$
　　e. $T(n)=2T(n/2)+n/\mathrm{l}\mathrm{g}n$
　　f. $T(n)=T(n/2)+T(n/4)+T(n/8)+n$
　　g. $T(n)=T(n-1)+1/n$
　　h. $T(n)=T(n-1)+\mathrm{l}\mathrm{g}n$
　　i. $T(n)=T(n-2)+1/\mathrm{l}\mathrm{g}n$
　　j. $T(n)=\sqrt{n}T(\sqrt{n})+n$
　　
　　解
　　a. $T(n)=4T(n/3)+n\mathrm{l}\mathrm{g}n$
　　应用主定理，根据递归式有$a=4$, $b=3$，$f(n)=n\mathrm{l}\mathrm{g}n$，所以有$n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a}=n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{3}4}$。于是有$f(n)=n\mathrm{l}\mathrm{g}n=O(n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{3}4-\epsilon })=O(n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a-\epsilon })$，任取$0<\epsilon <{\mathrm{l}\mathrm{o}\mathrm{g}}_{3}4-1$即可。因此，可以应用主定理情况1，于是$T(n)=\Theta (n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a})=\Theta (n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{3}4})$。
　　
　　b. $T(n)=3T(n/3)+n/\mathrm{l}\mathrm{g}n$
　　应用递归树方法，递归树如下图所示。
　　
　　在递归树中，深度为$i$的结点对应规模为$n/3^i$的子问题。当$n/3^i=1$时，即$i={\mathrm{l}\mathrm{o}\mathrm{g}}_{3}n$时，子问题规模变为$1$，这对应于叶结点$T(1)$，因此叶结点的深度为${\mathrm{l}\mathrm{o}\mathrm{g}}_{3}n$。
　　每层的结点数都是上一层的$3$倍，因此深度为i的结点数为$3^i$。并且由于深度为$i$的结点对应的子问题规模为$n/3^i$，故深度为$i$的每个结点的代价为$c(n/3^i)/\mathrm{l}\mathrm{g}(n/3^i)$。因此，除叶结点外，深度为$i$的所有结点的代价之和为$3^i•(c(n/3^i)/\mathrm{l}\mathrm{g}(n/3^i))=cn/(\mathrm{l}\mathrm{g}n-i•\mathrm{l}\mathrm{g}3)$。又由于深度为$i$的结点数为$3^i$，并且叶结点深度为${\mathrm{l}\mathrm{o}\mathrm{g}}_{3}n$，故叶结点一共有$3^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{3}n}=n$个，于是所有叶结点的代价之和为$\Theta (n)$。
　　现在将每一层的代价加起来，得到
　　
　　代入法证明省略。
　　
　　c. $T(n)=4T(n/2)+n^2\sqrt{n}$
　　应用主定理，根据递归式有$a=4$, $b=2$，$f(n)=n^2\sqrt{n}=n^{2.5}$，所以有$n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a}=n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{2}4}=n^2$。于是有$f(n)=n^{2.5}=\Omega (n^{2+\epsilon })=\Omega (n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a+\epsilon })$，其中ε = 0.5。并且当$1/\sqrt{2}\le c<1$时，有$af(n/b)=4f(n/2)=4•(n/2{)}^{2.5}=n^{2.5}/\sqrt{2}\le cf(n)=c{n}^{2.5}$。因此，可以应用主定理情况3，于是$T(n)=\Theta (f(n))=\Theta (n^{2.5})$。
　　
　　d. $T(n)=3T(n/3-2)+n/2$
　　猜想这个递归式的解应该和递归式$T(n)=3T(n/3)+n/2$的解一致，现在用主方法求解这个新的递归式。根据新的递归式有$a=3$, $b=3$，$f(n)=n/2$，所以有$n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a}=n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{3}3}=n$。于是有$f(n)=n/2=\Theta (n)=\Theta (n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a})$。因此，可以应用主定理情况2，于是$T(n)=\Theta (n^{{\mathrm{l}\mathrm{o}\mathrm{g}}_{b}a}\mathrm{l}\mathrm{g}n)=\Theta (n\mathrm{l}\mathrm{g}n)$。
　　下面将这个结果代入原递归式进行验证。我们要证明的是：存在正常数$c_1$和$c_2$，使得$c_{1}n\mathrm{l}\mathrm{g}n\le T(n)\le c_{2}n\mathrm{l}\mathrm{g}n$对足够大的$n$都成立。然而，直接证明$c_{1}n\mathrm{l}\mathrm{g}n\le T(n)\le c_{2}n\mathrm{l}\mathrm{g}n$很困难，我们不妨尝试证明$c_1(n+3)\mathrm{l}\mathrm{g}(n+3)\le T(n)\le c_2(n+3)\mathrm{l}\mathrm{g}(n+3)$。
　　(1) 证明存在正常数$c_1$，使得$T(n)\ge c_1(n+3)\mathrm{l}\mathrm{g}(n+3)$对足够大的$n$都成立
　　将归纳假设代入递归式得到
　　
　　现在要选取合适的$c_1$，使得不等式$c_1(n+3)\mathrm{l}\mathrm{g}(n+3)-c_1(n+3)\mathrm{l}\mathrm{g}3+n/2\ge c_1(n+3)\mathrm{l}\mathrm{g}(n+3)$成立。对这个不等式做一些变换。
　　
　　显然，$\frac{1}{2(1+3/n)\mathrm{l}\mathrm{g}3}$是关于$n$的单调递增函数。为使递归式$T(n)=3T(n/3-2)+n/2$有意义，必须使$n\ge 9$。当$n=9$时，$\frac{1}{2(1+3/n)\mathrm{l}\mathrm{g}3}$取得最小值$\frac{3}{8\mathrm{l}\mathrm{g}3}$。因此，只要取$c_1\le \frac{3}{8\mathrm{l}\mathrm{g}3}$，就能使得不等式$c_1\le \frac{1}{2(1+3/n)\mathrm{l}\mathrm{g}3}$成立，此时$T(n)\ge c_1(n+3)\mathrm{l}\mathrm{g}(n+3)$成立。
　　(2) 证明存在正常数$c_2$，使得$T(n)\le c_2(n+3)\mathrm{l}\mathrm{g}(n+3)$对足够大的$n$都成立
　　证明过程与前文类似的分析，最终得到：只要取$c_2\ge \frac{1}{2\mathrm{l}\mathrm{g}3}$，就能使得不等式$T(n)\le c_2(n+3)\mathrm{l}\mathrm{g}(n+3)$成立。具体证明过程就不赘述。
　　
　　e. $T(n)=2T(n/2)+n/\mathrm{l}\mathrm{g}n$
　　该递归式的求解过程与b类似，其解也为$T(n)=\Theta (n\mathrm{l}\mathrm{g}\mathrm{l}\mathrm{g}n)$。具体求解过程就不赘述。
　　
　　f. $T(n)=T(n/2)+T(n/4)+T(n/8)+n$
　　应用递归树方法。递归树如下图所示。
　　
　　这不是一棵满二叉树。从第$0$层到第${\mathrm{l}\mathrm{o}\mathrm{g}}_{8}n$层是满的，从第${\mathrm{l}\mathrm{o}\mathrm{g}}_{8}n+1$层到最底层是不满的。考虑从第$0$层到第${\mathrm{l}\mathrm{o}\mathrm{g}}_{8}n$层的代价，有
　　
　　因此，可以得到$T(n)$的下界为$\Omega (n)$。我们猜测$T(n)$的上界也为$O(n)$。于是，我们猜测的解为$T(n)=\Theta (n)$。下面将这个猜测代入原递归式进行验证。我们要证明的是：存在正常数$c_1$和$c_2$，使得$c_{1}n\le T(n)\le c_{2}n$对足够大的$n$都成立。
　　(1) 证明存在正常数$c_1$，使得$T(n)\ge c_{1}n$对足够大的$n$都成立
　　将归纳假设代入递归式得到
　　
　　现在要选取合适的$c_1$，使得不等式$\frac{7}{8}{c}_{1}n+n\ge c_{1}n$成立。将这个不等式做一下变换。
　　
　　显然，只要取$c_1\le 8$，就能使得不等式$\frac{7}{8}{c}_{1}n+n\ge c_{1}n$成立，此时$T(n)\ge c_{1}n$成立。
　　(2) 证明存在正常数$c_2$，使得$T(n)\le c_{2}n$对足够大的$n$都成立
　　证明过程与上文类似，最终得到：只要取$c_2\ge 8$，就能使得不等式$T(n)\le c_{2}n$成立。具体证明过程就不赘述。
　　
　　g. $T(n)=T(n-1)+1/n$
　　该递归式可以直接求解。根据递归式可以联立以下方程组。
　　
　　将方程组中各方程相加，得到
　　
　　左右两边约去相同项，得到
　　
　　
　　h. $T(n)=T(n-1)+\mathrm{l}\mathrm{g}n$
　　该递归式可以直接求解。根据递归式可以联立下列方程组。
　　
　　将方程组中各方程相加，得到
　　
　　左右两边约去相同项，得到
　　
　　
　　i. $T(n)=T(n-2)+1/\mathrm{l}\mathrm{g}n$
　　本题笔者解答不了，希望有高手能指教。
　　
　　j. $T(n)=\sqrt{n}T(\sqrt{n})+n$
　　采用替代变量法。令$n=2^m$，那么递归式变为$T(2^m)=2^{m/2}\bullet T(2^{m/2})+2^m$。再令$S(m)=T(2^m)$，得到$S(m)=2^{m/2}•S(m/2)+2^m$。
　　递归式$S(m)=2^{m/2}•S(m/2)+2^m$可以直接求解。假设$m$为2的幂，可以联立下列方程组。
　　
　　将方程组中各方程相加，并约去左右两边的相同项，得到
　　
　　由于$n=2^m$，所以有$m=\mathrm{l}\mathrm{g}n$，代入上式得到