时间复杂度和空间复杂度详解及排序算法复杂度

时间复杂度

度量一个程序(算法)执行时间的两种方法

1、事前估算法
通过分析某个算法的时间复杂度来判断哪个算法更优
2、事后统计法
这种方法可行，但是有两个问题：一是要想对设计的算法的运行性能进行评测，需要实际运行该程序;二是所得时间的统计量依赖于计算机的硬件、软件等环境因素,这种方式，要在同一台计算机的相同状态下运行，才能比较哪个算法速度更快

时间频度

       定义：一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。

可忽略项

• 忽略常数项
• 忽略低次项
• 忽略系数

2n+20 和 2n随着n变大，执行曲线无限接近, 20可以忽略
2n^2+3n+10 和2n^2随着n变大,执行曲线无限接近，可以忽略 3n+10
5n^2+7n和 3n^2+2n 随着n值变大，执行曲线重合，5和3可以忽略。而n^3+5n和 6n^3+4n ，执行曲线分离，说明多少次方是关键！！！

时间复杂度

       1、一般情况下，算法中的基本操作语句的重复执行次数是问题规模 n 的某个函数，用T(n)表示，若有某个辅助函数 f(n)，使得当 n 趋近于无穷大时，T(n)/ f(n) 的极限值为不等于零的常数，则称 f(n)是T(n)的同数量级函数。记作T(n)=O( f(n) )，称O( f(n) )为算法的渐进时间复杂度，简称时间复杂度。
       2、 T(n)不同，但时间复杂度可能相同。如: T(n)=n^2+7n+6 与T(n)=3n^2+2n+2它们的T(n)不同，但时间复杂度相同，都为O(n ^2)。

常见的时间复杂度

常数阶 O(1)
对数阶 O(log2n) -----while(i<n){i=i*2}
线性阶 O(n) -----for(i=1;i<n;i++){j=i}
线性对数阶 O(nlog2n) -----for循环里套while循环
平方阶 O(n^2) -----两次for循环
立方阶 O(n^3)
k次方阶 O(n^k)
指数阶 O(2^n)

常见复杂度对应图：

说明：

1、常见的算法时间复杂度由小到大依次为:0(1)<0(log2n)<0(n)<O(nlog2n)<0(n ^2)<0(n ^3)<O(n ^k)<o(2 ^n)，随着问题规模n的不断增大，上述时间复杂度不断增大，算法的执行效率越低
2、从图中可见，我们应该尽可能避免使用指数阶的算法

平均时间复杂度和最坏时间复杂度

1、平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下，该算法的运行时间。
2、最坏情况下的时间复杂度称最坏时间复杂度。一般讨论的时间复杂度均是最坏情况下的时间复杂度。这样做的原因是:最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限，这就保证了算法的运行时间不会比最坏情况更长。
3、平均时间复杂度和最坏时间复杂度是否一致，和算法有关(如图:)。

空间复杂度

1、一个算法的空间复杂度(Space Complexity)定义为该算法所耗费的存储空间，它也是问题规模 n 的函数。
2、空间复杂度(Space Complexity)是对个算法在运行过程中临时占用存储空间大小的量度，也就是额外占取的空间的大小。有的算法需要占用的临时工作单元数与解决问题的规模n有关，它随着n的增大而增大，当n较大时，将占用较多的存储单元，例如快速排序和归并排序算法，基数排序就属于这种情况
3、空间复杂度计算规则基本跟时间复杂度类似，也使用大O渐进表示法。
4、函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了，因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。
5、在做算法分析时，主要讨论的是时间复杂度。从用户使用体验上看，更看重的程序执行的速度。一些缓存产品(redis, memcache)和算法(基数排序)本质就是用空间换时间.