数据结构与算法-时间复杂度和空间复杂度

算法复杂度分为时间复杂度和空间复杂度。

其作用：
时间复杂度是指执行算法所需要的计算工作量；
而空间复杂度是指执行这个算法所需要的内存空间。
（算法的复杂性体现在运行该算法时的计算机所需资源的多少上，计算机资源最重要的是时间和空间（即寄存器）资源，因此复杂度分为时间和空间复杂度）。

简单来说，时间复杂度指的是语句执行次数，空间复杂度指的是算法所占的存储空间

一、时间复杂度

时间复杂度定义：
n称为问题的规模，当n不断变化时，时间频度T(n)也会不断变化。但有时我们想知道它变化时呈现什么规律。为此，我们引入时间复杂度概念。

时间频度 ： 一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。

一般情况下，算法中基本操作重复执行的次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n),使得当n趋近于无穷大时，T（n)/f(n)的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数。记作T(n)=Ｏ(f(n))
称Ｏ(f(n)) 为算法的渐进时间复杂度，简称时间复杂度。
注意，时间频度与时间复杂度是不同的，时间频度不同但时间复杂度可能相同。
如：T(n)=n^2+3n+4与T(n)=4n2+2n+1它们的频度不同，但时间复杂度相同，都为O(n^2)。

常见的时间复杂度有：

常数阶O(1) < 对数阶O(log2n) < 线性阶O(n) < 线性对数阶O(nlog2n)
< 平方阶O(n^2) < 方阶O(n3) < k次方阶O(n^k)
< 指数阶O(2^n) < O(n!) < O(n^n)

最坏时间复杂度和平均时间复杂度：

（1）最坏情况下的时间复杂度称最坏时间复杂度
一般不特别说明，讨论的时间复杂度均是最坏情况下的时间复杂度。 这样做的原因是：最坏情况下的时间复杂度是算法在任何输入实例上运行时间的上界，这就保证了算法的运行时间不会比任何更长。

在最坏情况下的时间复杂度为T(n)=0(n)，它表示对于任何输入实例,该算法的运行时间不可能大于0(n)。 平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下，算法的期望运行时间。

指数阶0(2n)，显然，时间复杂度为指数阶0(2n)的算法效率极低，当n值稍大时就无法应用。

对于时间复杂度的分析，一般是这两种方法：

（2）最坏时间复杂度
最坏情况运行时间
通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间

对于追问为什么是最坏时间复杂度的好奇宝宝：

1. 如果最差情况下的复杂度符合我们的要求，我们就可以保证所有的情况下都不会有问题。
2. 也许你觉得平均情况下的复杂度更吸引你（见下），但是：第一，难计算第二，有很多算法的平均情况和最差情况的复杂度是一样的. 第三，而且输入数据的分布函数很可能是你没法知道。

(2)平均时间复杂度

平均时间复杂度也是从概率的角度看，更能反映大多数情况下算法的表现。当然，实际中不可能将所有可能的输入都运行一遍，因此平均情况通常指的是一种数学期望值，而计算数学期望值则需要对输入的分布情况进行假设。平均运行时间很难通过分析得到，一般都是通过运行一定数量的实验数据后估算出来的。

时间复杂度计算过程：

1. 找到执行次数最多的语句
2. 计算语句执行次数的数量级
3. 用大O来表示结果

综上：

1、取决于执行次数最多的语句，如当有若干个循环语句时，算法的时间复杂度是由嵌套层数最多的循环语句中最内层语句的频度f(n)决定的。
2、如果算法的执行时间不随着问题规模n的增加而增长，即使算法中有上千条语句，其执行时间也不过是一个较大的常数。此类算法的时间复杂度是O(1)
3、算法的时间复杂度不仅仅依赖于问题的规模，还与输入实例的初始状态有关。

二、空间复杂度

空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度，记做S(n)=O(f(n))。

对于一个算法来说，空间复杂度和时间复杂度往往是相互影响的。当追求一个较好的时间复杂度时，可能会使空间复杂度的性能变差，即可能导致占用较多的存储空间；反之，当追求一个较好的空间复杂度时，可能会使时间复杂度的性能变差，即可能导致占用较长的运行时间。

有时我们可以用空间来换取时间以达到目的。