【手撕算法】时间复杂度和空间复杂度概述

【手撕算法】时间复杂度和空间复杂度概述

写在前面：

本文详细介绍了时间复杂度和简述空间复杂度。

---

活动地址：CSDN21天学习挑战赛

本文关键字：经典算法、时间复杂度、空间复杂度

一、排序算法分类

• 内部排序

  指将需要处理的所有数据都加载到内部存储器（内存）中进行排序。

• 外部排序

  数据量过大，无法全部加载到内存中，需要借助外部存储（文件等）进行排序。

• 常见的分类方法

二、算法效率

1. 时间复杂度

定义

度量一个程序（算法）执行时间的两种方法。

• 事后统计的方法

  这种方法可行，但有两个问题：一是要想对设计的算法的运行性能进行评测，需要事件运行该程序；二是所得时间的统计量依赖于计算机的硬件、软件等环境因素。

• 事前估算的方法

  通过分析某个算法的时间复杂度来判断哪个算法更优。

• 时间频度

  一个算法花费的时间与算法中语句的执行次数成正比。一个算法中的语句执行次数称为语句频度或者时间频度。记为T(n)。

此处引用清华大学《数据结构》课程的一段话，一般情况下，算法中的基本操作语句的重复执行次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n)，使得当n趋近于无穷大时，T(n) / f(n) 的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数。记作 T(n)=Ｏ( f(n) )，称Ｏ( f(n) ) 为算法的渐进时间复杂度，简称时间复杂度。T(n) 不同，但时间复杂度可能相同。 如：T(n)=n²+7n+6 与 T(n)=3n²+2n+2 它们的T(n) 不同，但时间复杂度相同，都为O(n²)。

计算时间复杂度的方法：

• 用常数1代替加法常数，即忽略常数项
• 只保留最高阶项，即忽略低次项
• 去除最高阶项的系数，即忽略系数

忽略常数项

n	T(n) = 2n+30	T(n) = 2n
1	32	2
2	34	4
8	46	16
15	60	30
50	130	100
100	230	200
300	630	600
500	1030	1000

可以看出:
2n+30 和 2n 随着n变大，执行曲线无限接近，20可以忽略。

忽略低次项

n	T(n)=2n^2+5n+30	T(n)=2n^2
1	37	2
2	48	8
8	198	128
15	555	450
50	5280	5000
100	20530	20000
300	181530	180000
500	502530	500000

可以看出:
随着n值变大，2n^2+5n+30 和 2n^2，执行曲线重合，说明这种情况下, 5n和30可以忽略。

常见的时间复杂度

1. 常数阶O(1)

   只要是没有循环等复杂结构。

   int i = 1;
   i++;
   

2. 对数阶O(log2n)

   int i = 1;
   int n = 100;
   while(i<n)
   {
   	i = i*2;
   }
   

   在循环里面，每次都将 i 乘以 2，距离 n 就越来越近了。假设循环x次之后，i 就大于 n 了，此时这个循环结束，也就是说 2 的 x 次方等于 n，那么 x = log2n。也就是说当循环 log2n 次以后，这个代码就结束了。因此这个代码的时间复杂度为：O(log2n) 。如果上述代码变化为i = i * 3 ，则是 O(log3n) 。

3. 线性阶O(n)

   for(int i = 1; i < n; i++)
   {  }

消耗的时间是随着n的变化而变化的。

4. 线性对数阶O(nlog2n)

   for(int j = 1; j < n; j++)
   { 
   	int i = 1;
   	int N = 100;
   	while(i<N)
   	{
   		i = i*2;
   	}
   }
   

   将时间复杂度为O(logN)的代码循环n遍的话，那么它的时间复杂度就是 n * O(logN)，也就是了O(nlogN)

5. 平方阶O(n^2)

     for(int i = 1; i < n; i++)
      { 
      		for(int j = 1; j < n; j++)
      		{ 
      
      		}
      }
   

   嵌套了2层n循环。

6. 立方阶O(n^3)

   嵌套了3层n循环。

7. k次方阶O(n^k)

   嵌套了k层n循环。

8. 指数阶O(2^n)

常见的算法时间复杂度由小到大依次为：
$$O(1)＜O(log2n)＜O(n)＜O(nlog2n)＜O(n^2)＜O(n^3)＜O(n^k)＜O(2^n)$$
随着问题规模n的不断增大，上述时间复杂度不断增大，算法的执行效率越低。

平均时间复杂度和最坏时间复杂度

• 平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下，该算法的运行时间。
• 最坏情况下的时间复杂度称最坏时间复杂度。一般讨论的时间复杂度均是最坏情况下的时间复杂度。 这样做的原因是：最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限，这就保证了算法的运行时间不会比最坏情况更长。

2. 空间复杂度

类似于时间复杂度的讨论，一个算法的空间复杂度(Space Complexity)定义为该算法所耗费的存储空间。
空间复杂度是对一个算法在运行过程中临时占用存储空间大小的量度。有的算法需要占用的临时工作单元数与解决问题的规模n有关，它随着n的增大而增大，当n较大时，将占用较多的存储单元。

---

写在结尾：

文章中出现的任何错误请大家批评指出，一定及时修改。

希望写在这里的小伙伴能给个三连支持！