003-时间复杂度和空间复杂度-简·结

转载于：https://blog.csdn.net/zolalad/article/details/11848739

1、时间复杂度

（1）时间频度是一个算法执行所耗费的时间，从理论上是不能算出来的，必须上机运行测试才能知道。但我们不可能也没有必要对每个算法都上机测试，因而我们只需知道哪个算法花费的时间多，哪个算法花费的时间少来预估耗费的时间。并且一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度。记为 T(n)。

（2）时间复杂度在刚才提到的时间频度中，n 称为问题的规模，当 n 不断变化时，时间频度 T(n) 也会不断变化。但有时我们想知道它变化时呈现什么规律。为此，我们引入时间复杂度概念。 一般情况下，算法中基本操作重复执行的次数是问题规模 n 的某个函数，用 T(n) 表示，若有某个辅助函数 f(n)，使得当 n 趋近于无穷大时，T(n)/f(n) 的极限值为不等于零的常数，则称 f(n) 是 T(n) 的同数量级函数。记作 T(n)=Ｏ(f(n))，称 Ｏ(f(n)) 为算法的渐进时间复杂度，简称时间复杂度。

当 n 趋近于无穷时：
$$O(2n^2+n+1)=O(3n^2+n+3)=O(7n^2+n)=O(n^2)$$一般都只用 O(n²) 表示就可以了。

在各种不同算法中，若算法中语句执行次数为一个常数，则时间复杂度为O(1)，另外，在时间频度不相同时，时间复杂度有可能相同，如 T(n)=(n² + 3n + 4) 与 T(n)=(4n² + 2n + 1) 它们的频度不同，但时间复杂度相同，都为 O(n²)。 按数量级递增排列，常见的时间复杂度有：常数阶O(1)，对数阶 O(log₂n)，线性阶O(n)，线性对数阶O(nlog₂n)，平方阶O(n²)，立方阶O(n³),…， k 次方阶O(n^k)，指数阶 O(2ⁿ)。随着问题规模 n 的不断增大，上述时间复杂度不断增大，算法的执行效率越低。

从图中可见，我们应该尽可能选用多项式阶 O(n^k) 的算法，而不希望用指数阶的算法。

常见的算法时间复杂度由小到大依次为：
Ο(1)＜Ο(log₂n)＜Ο(n)＜Ο(nlog₂n)＜Ο(n²)＜Ο(n³)＜…＜Ο(2ⁿ)＜Ο(n!)

---

1）O(1)

a = 3
b = a
c = b

以上三条单个语句的频度均为 1，该程序段的执行时间是一个与问题规模 n 无关的常数。算法的时间复杂度为常数阶，记作T(n)=O(1)。

注意：如果算法的执行时间不随着问题规模 n 的增加而增长，即使算法中有上千条语句，其执行时间也不过是一个较大的常数。此类算法的时间复杂度是 O(1)。

2）O(n²)

sum=0;               	（1次）
for(i=1;i<=n;i++)     	（n+1次）
   for(j=1;j<=n;j++) 	（n2次）
    sum++;           	（n2次）

解：因为Θ(2n²+n+1)=n²（Θ即：去低阶项，去掉常数项，去掉高阶项的常参得到），所以T(n)=O(n²)；

3）O(n)

  a=0;
  b=1;                      ①
  for (i=1;i<=n;i++) ②
  {  
     s=a+b;　　　　③
     b=a;　　　　　④  
     a=s;　　　　　⑤
  }

解：
语句1的频度：2,
语句2的频度： n,
语句3的频度： n-1,
语句4的频度：n-1,
语句5的频度：n-1,
T(n)=2+n+3(n-1)=4n-1=O(n).

4）log₂n

i=1;     ①
while (i<=n)
  i=i*2; ②

解：
语句1的频度是1,
设语句2的频度是f(n), 则：2^f(n)<=n; f(n)<=log₂n
取最大值f(n)=log₂n
T(n)=O(log₂n)

5）O(n³)

 for(i=0;i<n;i++)
    {  
       for(j=0;j<i;j++)  
       {
          for(k=0;k<j;k++)
             x=x+2;  
       }
    }

解：当i=m, j=k的时候,内层循环的次数为k当i=m时, j 可以取 0,1,…,m-1 , 所以这里最内循环共进行了0+1+…+m-1=(m-1)m/2次所以,i从0取到n, 则循环共进行了: 0+(1-1)*1/2+…+(n-1)n/2=n(n+1)(n-1)/6所以时间复杂度为O(n³).

一个经验规则：其中 c 是一个常量，如果一个算法的复杂度为c 、log₂n、n 、 n*log₂n ,那么这个算法时间效率比较高 ，如果是2ⁿ ,3ⁿ ,n!，那么稍微大一些的 n 就会令这个算法不能动了，居于中间的几个则差强人意。

2、空间复杂度

一个算法的空间复杂度(Space Complexity) S(n) 定义为该算法所耗费的存储空间，它也是问题规模 n 的函数。渐近空间复杂度也常常简称为空间复杂度。

空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。一个算法在计算机存储器上所占用的存储空间，包括存储算法本身所占用的存储空间，算法的输入输出数据所占用的存储空间和算法在运行过程中临时占用的存储空间这三个方面。算法的输入输出数据所占用的存储空间是由要解决的问题决定的，是通过参数表由调用函数传递而来的，它不随本算法的不同而改变。存储算法本身所占用的存储空间与算法书写的长短成正比，要压缩这方面的存储空间，就必须编写出较短的算法。算法在运行过程中临时占用的存储空间随算法的不同而异，有的算法只需要占用少量的临时工作单元，而且不随问题规模的大小而改变，我们称这种算法是“就地"进行的，是节省存储的算法，如这一节介绍过的几个算法都是如此；有的算法需要占用的临时工作单元数与解决问题的规模n有关，它随着n的增大而增大，当n较大时，将占用较多的存储单元，例如将在第九章介绍的快速排序和归并排序算法就属于这种情况。

如当一个算法的空间复杂度为一个常量，即不随被处理数据量n的大小而改变时，可表示为O(1)；当一个算法的空间复杂度与以 2 为底的 n 的对数成正比时，可表示为O(log₂n)；当一个算法的空I司复杂度与n成线性比例关系时，可表示为 O(n).若形参为数组，则只需要为它分配一个存储由实参传送来的一个地址指针的空间，即一个机器字长空间；若形参为引用方式，则也只需要为其分配存储一个地址的空间，用它来存储对应实参变量的地址，以便由系统自动引用实参变量。