《大话数据结构》笔记 第二章 算法（下）

2.5 函数的渐近增长

给定两个函数 f(n) 和 g(n)，如果存在一个整数 N，使得对于所有的 n > N，f(n) 总大于 g(n)，那么我们说 f(n) 的增长渐近快于 g(n)。

例如，算法 A 要 2n+3 次操作，而算法 B 要 3n+1 次。随着 n 的增大，比较运行次数时，我们可以忽略加法常数。
再例如，算法 C 是 4n+8，而算法 D 要 2$n^2$+1。随 n 的增大，我们可以发现运行次数与最高项相乘的常数并不重要。
然后，例如，算法 E 是 2$n^2$+3n+1 算法 F 是 2$n^3$+3n+1。随 n 的增大，最高次项的指数大的，结果增长特别快。
最后一个例子，算法 G 是 2$n^2$， 算法 H 是 3n+1，算法 I 是 2$n^2$+3n+1。随着 n 的增大，H 算法会越来越少于 G 和 I 的次数，G 也会越来越趋近于 I 。于是得出结论判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项（最高阶项）的阶数。

---

2.6 算法时间复杂度

定义：

在进行算法分析时，语句总的执行次数 T(n) 是关于问题规模 n 的函数，进而分析 T(n) 随 n 的变化情况并确定 T(n) 的数量级。算法的时间复杂度，也就是算法的时间量度，记作：T(n)=O(f(n))。它表示随问题规模 n 的增大，算法执行时间的增长率和 f(n) 的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中 f(n) 是问题规模 n 的某个函数。

这样用大写 O( ) 来体现算法时间复杂度的记法，我们称之为大 O 记法。
一般情况下，随着 n 的增大，T(n) 增长最慢的算法为最优算法。

推导大 O 阶：
1. 用常数 1 取代运行时间中的所有加法常数。
2. 再修改后的运行次数函数中，只保留最高阶项。
3. 如果最高阶项存在且不是1，则除去与这个项相乘的常数。
得到的结果就是大 O 阶。

常数阶：循环的时间复杂度为O(1)。
注意：不管这个时间复杂度为多少，只要是常数，我们都记作 O(1)，而不能是 O(3)、O(12) 等其他任意数字。
线性阶：循环的时间复杂度为 O(n)。
对数阶：循环的时间复杂度为 O($log_2n$)。
平方阶：循环的时间复杂度为 O($n^2$)。

理解大 O推导不算难，难的是对数列的一些相关运算，这更多的是考察数学知识和能力。
看例子，对于帆帆发调用的时间复杂度如何分析。、

int i,j;
for (i = 0; i < n ; i++)
{
    function(i);    
}

void function(int count)
{
    int j;
    for(j = count; j < n; j++)
    {
        /* 时间复杂度为O(1)的程序步骤序列 */
    }
}

这个例子最终的时间复杂度为 O($n^2$)。
再看下面这段相对复杂的语句：

n++;                       /* 执行次数为 1 */
function(n);               /* 执行次数为 n */
int i,j;
for(i = 0; i < n; i++)     /* 执行次数为 n^2 */
{
    function(i);
}
for(i = 0; i < n; i++)     /* 执行次数为 n(n+1)/2 */
{   
    for(j = i; j< n; j++)
    {
        /* 时间复杂度为O(1)的程序步骤序列 */
    }
}

它的执行次数为$f(n) = 1 + n + n^2 + {n(n+1)\over2} = {3\over2}n^2 +{3\over2}n +1$,根据推导大 O 阶的方法，最终这段代码的时间复杂度也是 O($n^2$)。

常见的时间复杂度
按消耗的时间从小到大依次为：

O(1) < O(log$n$) < O($n$) < O($n$log$n$) < O($n^2$) < O($n^3$) < O($2^n$) < O($n!$) < O($n^n$)

---

2.7 最坏情况与平均情况

最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。
平均运行时间是所有情况中最有意义的，因为他是期望的运行时间。
一般在没有特殊说明的情况下，都是指最坏时间复杂度。

---

2.8 算法空间复杂度

算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式为：S(n) = O(f(n))，其中，n 为问题规模，f(n) 为语句关于 n 所占存储空间的函数。