数据结构——时间复杂度分析

《数据结构》笔记

1. 关于递归法时间复杂度计算的主方法：

对于$T(n)$有$T(n)=aT(n/b)+f(n),其中a\ge 1,b>1,f为渐进趋正$
Caes1：$f(n)=O(n^{lo{g}_b^a-\epsilon })$需$\epsilon >0$时，则其复杂度为$$T(n)=\Theta (n^{lo{g}_b^a})$$
Caes2：$f(n)=O(n^{lo{g}_b^a}lo{g}^{k}n)$需$k\ge 0$时，则其复杂度为$$T(n)=\Theta (n^{lo{g}_b^a}lo{g}^{k+1}n)$$
Caes2：$f(n)=O(n^{lo{g}_b^a-\epsilon })$需$\epsilon >0$且对于$c<1$时$af(n/b)\le cf(n)$，则其复杂度为$$T(n)=\Theta (f(n))$$

其证明过程见《算法导论》B站bv号：BV1Tb411M7FA

Examples：分治法中使用递归过程的归并排序（Merge Sort）

对于n个未排序的数组$A$,即$A[1,\cdot \cdot \cdot ,n]$(此处$1-n$表示数组元素位置)其排序过程如下：

1. If $n=1$,done.
2. else 将数组$A$分为两份$A[1,\cdot \cdot \cdot ,n/2]$，分别对两个$A[1,\cdot \cdot \cdot ,n/2]$进行归并，
3. 合并两个$A[1,\cdot \cdot \cdot ,n/2]$数组。

对于第2个步骤会递归地进行步骤1，2，3。
由此可知按照步骤1，2，3的时间复杂度$T(n)=\Theta (1)+2T(n/2)+\Theta (n)$，对应主方法，则$f(n)=\Theta (1)+\Theta (n)$，此处$n^{lo{g}_b^a}=n^{lo{g}_2^2}=n$,若其对应Case1,不满足$\epsilon >0$，若其对应Case2,$k$取$0$，满足$k\ge 0$。
则有归并排序的时间复杂度为：$$T(n)=\Theta (n^{lo{g}_b^a}lo{g}^{k+1}n)=\Theta (nlogn)$$

也可画二叉树进行粗略证明（此处借用《算法导论》配套PPT）：

$T(n)=2T(n/2)+cn$可用下图表示，其中cn即表示f(n)

每个$T(n/2)$同样进行分隔，以此类推则有如下所示：

由此，将最终的叶节点与递归次数相乘则有$T(n)$的时间复杂度：$$T(n)=\Theta (nlogn)$$

2. 复杂度分析的部分技巧

• 若两段算法分别有复杂度$T_1(n)=O(f_1(n))$和$T_2(n)=O(f_2(n))$，则有：
  • $T_1(n)+T_2(n)=max(O(f_1(n)),O(f_2(n)))$
  • $T_1(n)\times T_2(n)=O(f_1(n)\times f_1(n))$
• 若$T(n)$是关于$n$的$k$阶多项式，则$T(n)=\Theta (n^k)$
• 一个for循环的时间复杂度等于循环次数乘以循环体代码的复杂度
• if-else结构的复杂度取决于if的条件判断复杂度和两个分支部分的复杂度，总体复杂度取三者中最大