算法的时间复杂度和空间复杂度

如何评价算法的性能

定义:一个算法中的语句执行次数称为 语句频度 或 时间频度;
约定: 检验算法的效率，主要考虑 最坏时间复杂度 和 平均时间复杂度 一般不特别说明，讨论的时间复杂度均是最坏情况下的时间复杂度

时间复杂度

时间复杂度的定义
（1）时间频度 一个算法执行所耗费的时间，从理论上是不能算出来的，必须上机运行测试才能知道。但我们不可能也没有必要对每个算法都上机测试，只需知道哪个算法花费的时间多，哪个算法花费的时间少就可以了。并且一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。

（2）时间复杂度 在刚才提到的时间频度中，n称为问题的规模，当n不断变化时，时间频度T(n)也会不断变化。但有时我们想知道它变化时呈现什么规律。为此，我们引入时间复杂度概念。 一般情况下，算法中基本操作重复执行的次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n),使得当n趋近于无穷大时，T（n)/f(n)的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数。记作T(n)=Ｏ(f(n)),称Ｏ(f(n)) 为算法的渐进时间复杂度，简称时间复杂度。

在各种不同算法中，若算法中语句执行次数为一个常数，则时间复杂度为O(1),另外，在时间频度不相同时，时间复杂度有可能相同，如$T(n)=n^2+3n+4$与$T(n)=4n^2+2n+1$它们的频度不同，但时间复杂度相同，都为$O(n^2)$。 按数量级递增排列，常见的时间复杂度有：常数阶O(1),对数阶$O(lo{g}_{2}n)$,线性阶O(n), 线性对数阶$O(nlo{g}_{2}n)$,平方阶$O(n^2)$，立方阶$O(n^3)$,…， k次方阶$O(n^k)$,指数阶$O(2^n)$。
随着问题规模n的不断增大，上述时间复杂度不断增大，算法的执行效率越低。

常见算法的时间复杂度

空间复杂度

一个程序的空间复杂度是指运行完一个程序所需内存的大小。

(1) 固定部分。这部分空间的大小与输入/输出的数据的个数多少、数值无关。主要包括指令空间（即代码空间）、数据空间（常量、简单变量）等所占的空间。这部分属于静态空间。

(2) 可变空间，这部分空间的主要包括动态分配的空间，以及递归栈所需的空间等。这部分的空间大小与算法有关。
　　
一个算法所需的存储空间用f(n)表示。S(n)=O(f(n)), 其中n为问题的规模，S(n)表示空间复杂度。

例子

O(1)

sum = n*(n+1)/2;        //时间复杂度O(1)

O(n)

for(int i = 0; i < n; i++){
    printf("%d ",i);
}                       
//时间复杂度O(n)

O(n^2)

运行次数为(1+n)*n/2, 时间复杂度O(n^2)

for(int i = 0; i < n; i++){
    for(int j = i; j < n; j++){
        printf("%d ",i);
    }
}   

还有这个例子，时间复杂度 O(n^2)

for(int i = 0; i < n; i++){
    for(int j = 0; j < n; j++){
        printf("%d ",i);
    }
}      

O(log2n)

设执行次数为x. 2^x = n 即x = log2n，时间复杂度O(log2n)

int i = 1, n = 100;
while(i < n){
    i = i * 2;
}