算法设计与分析笔记——算法时间复杂度及五种表示函数的阶的符号

算法时间复杂度

评估算法时间复杂度的具体步骤是：

（1）找出算法中重复执行次数最多的语句的频度来估算算法的时间复杂度；

（2）保留算法的最高次幂，忽略所有低次幂和高次幂的系数；

（3）将算法执行次数的数量级放入大Ο记号中。

用常数1来取代运行时间中所有加法常数；

常见的时间复杂度量有：

（1）O(1)：常量阶，运行时间为常量

（2）O(logn)：对数阶，如二分搜索算法
操作的数量与输入数据的规模 n 的比例是 log2 (n)。
比如: 1,3,5,6,7,9；找出7
如果全部遍历时间频度为n；
二分查找每次砍断一半，即为n/2；
随着查询次数的提升，频度变化作表：
查询次数 时间频度
1 n/2
2 n/2^2
3 n/2^3
k n/2^k

当最后找到7的时候时间频度则是1；
也就是:
n/2^k = 1;
n = 2^k；
k则是以2为底，n的对数，就是Log2n；
那么二分查找的时间复杂度就是O(Log2n)；

（3）O(n)：线性阶，如n个数内找最大值

（4）O(nlogn)：对数阶，如快速排序算法
上面的二分查找，是Logn的（Logn没写底数默认就是Log2n)；
线性对数阶就是在Logn的基础上多了一个线性阶；
比如这么一个算法流程：
数组a和b，a的规模为n，遍历的同时对b进行二分查找，如下代码：

for(int i =0;i<n;i++)
{
    binary_search(b);
}

（5）O(n^2)：平方阶，如选择排序，冒泡排序

（6）O(n^3)：立方阶，如两个n阶矩阵的乘法运算

（7）O(2^n)：指数阶，如n个元素集合的所有子集的算法

（8）O(n!)：阶乘阶，如n个元素全部排列的算法

五种表示函数的阶的符号

大O符号是用于描述函数渐进行为的数学符号。更确切地说，它是用另一个（通常更简单的）函数来描述一个函数数量级的渐近上界。

O(g(n)) = { f(n) | 存在常数 C>0，n0>0，使得任意 n≥n0，有 0 ≤ f(n) ≤ C·g(n) 成立 }

Ω符号是给函数的下限

​Ω(g(n)) = { f(n) | 存在常数 C>0，n0>0，使得任意 n≥n0，有 0 ≤ C·g(n) ≤ f(n) 成立 }
例子:
对于所有的n，有f(n)=3n+2>3n，所以f(n)=Ω(n)，这里c=3，n0=0。这里也可以这样f(n)=Ω(1).

o(g(n)) = { f(n) | 任意常数 C>0，存在 n0>0，使得任意 n≥n0，有 0 ≤ f(n) < C·g(n) 成立 }
lim [ f(n) / g(n) ] = 0 as n->∞

ω(g(n)) = { f(n) | 任意常数 C>0，存在 n0>0，使得任意 n≥n0，有 0 ≤ C·g(n) < f(n) 成立 }
lim [ f(n) / g(n) ] = ∞ as n->∞

记号	含义	理解
θ	紧确界	相当于“=”
O	上界	相当于“<=”
o	非紧的上界	相当于“<”
Ω	下界	相当于“>=”
ω	非紧的下界	相当于“>”