C++中时间复杂度、空间复杂度相关概念和常见算法举例

时间复杂度

事后统计的方法

一个程序运行时间一般要真正跑一次才知道。用户体验嘛，但是这种情况下还要依赖运行的硬件以及运行的数据。

事前统计的方法

跑之前虽然无法知道准确时间，但是通过分析程序可以比较不同算法完成一件事时的快慢，也能分析出随着输入数据越来越大，算法完成任务所需时间的变化。
一个算法由
控制结构（顺序、分支判断、循环）、和原操作（即对数据进行操作）
构成。
然而复杂的程序中加减乘除，不同类型的数据之间运算细微时间是不一样的。不过好在时间复杂度关注的更多是不同算法解决问题时大体的运行时间和随着输入数据n的变大，解决问题时间的增长情况。并不关心运行一个程序具体是1微秒还是1.25微秒。

1. 时间复杂度如何演化而来（时间频度）
   简单的来看，乘除运算比加减运算要简单。那么一个程序中有三个乘除运算，五个加减运算。总的时间是：
   3 x 计算一次乘法的时间 + 5 x 一次加法的时间
   然而计算机里一次乘法的时间是加法的好几倍（乘法是由多次加法来实现的，即3x4的计算原理是3+3+3+3）因而这个公式中加法部分相比乘法就忽略不计了。时间就是3 x 乘法时间。
   这就衍生出时间频度这个概念
   即上文中某个语句执行的次数为时间频度
   然而有的程序中没有乘法，有的程序中乘除都有，最后以什么“单位”来进行比较呢？
2. 时间复杂度
   就以这个时间频度来比较。以算法中花费时间多的那个操作运行了多少次为标注。因为我们主要关注主要步骤被计算了多少次，并且随着输入数据的规模n的变化，时间频度T(n)随之的变化情况。就以这个时间频度来比较。以算法中花费时间多的那个操作运行了多少次为标注。因为我们主要关注主要步骤被计算了多少次，并且随着输入数据的规模n的变化，时间频度T(n)随之的变化情况。
   随着n的变化，T(n)也会随之变化，在n趋近于正无穷大时，若能找到一个函数f(n)，使得T(n)/f(n) 的比值的极限为不为零的常数（高等数学中极限的概念）。我们可以说f(n)和T(n)是同数量级的函数记作：
   O(f(n)) 简化写为O(n)
   （终于引出O(n)这个概念了）
   话不多数，上干货：

几种时间复杂度

1. 线性
   T(n) = 3n

int myfun(int n)
	int sum;
	for(int i=0; i<n i++){
		sum += i;
	}
	return sum;

输入数据的规模n，就是说n越大，函数需要计算的时间越长，计算所需时间T(n)随着n的变化是线性的。

2. 对数
   T(n) = log(n)

int myfun(int n)
	int sum;
	for(int i=1; i<n ; i*=2){
		sum += i;
	}
	return sum;

函数中i的增长以倍数方式，因而可以很快的从1增长为n，函数执行次数比上一种情况少。（当然，函数完成的功能是不一样的）
对数不关心底数是2还是10还是其他数字，都一样，因而可简单写成logn

3. 常量

int myfun(int n)
    n++；
	return sum;

无论n多大，运算所需时间都差不多。

4. 多项式
   $T(n)=0.5n^2+0.5n$

int myfun(int n){
   for(int i=0; i<n; i++){
       for(int j=0; j<n; j++){
           cout<<"do something"<<endl;;
       }
   		cout<<"do something"<<endl;;
   }
}

5. 指数

 for(i=0;i<n;i++){  
       for(j=0;j<i;j++){
          for(k=0;k<j;k++)
             x=x+2;  
       }
    }

当i=m时，内层循环j可以取0,1,2，…，m-1 = (m-1)m/2
当i从0到n都计算一遍时，循环最内部共进行加法次数：
0 + （1-1）*1/2 + （2-1）*1/2 + … + （n-1）*n/2 = n（n-1）（n+1）/2
得到(n^3 -n )/2 ，取其中影响最大的一项，即时间复杂度为O(n^3)
类似的O(2^n)、O(n^k)都是指数型，时间复杂度随着n的增大上升很多。只能解决小规模的输入数据。
常见的算法时间复杂度由小到大依次为：$$O(1)＜O(log2n)＜O(n)＜O(nlog2n)＜O(n^2)＜O(n^3)＜\dots ＜O(2^n)＜O(n!)$$

渐进复杂度

这个定义针对的是两个算法A、B，输入小规模n时，A效率更高，输入大规模B时，B效率更高
此时需要用渐进复杂度判断，一般取大规模输入时的复杂度。因而，小规模输入，计算量小，二者差异不大，不太关心复杂度。

1. 大O记号，T(n)的渐进上界
   若存在正的常数c和函数f(n)，使得对任何n >> 2都有
   $T(n)<=c\bullet f(n)$，则认为n足够大之后， $T(n) = O(f(n)) $
   由这一定义，可导出大O记号的以下性质：
   (1) 对于任一常数c > 0，有$O(f(n))=O(c\bullet f(n))$
   (2) 对于任意常数a > b > 0，有$O(n^a+n^b)=O(n^a)$

  前一性质意味着，在大O记号的意义下，函数各项正的常系数可以忽略并等同于1。后一性质则意味着，多项式中的低次项均可忽略，只需保留最高次项。可以看出，大O记号的这些性质的确体现了对函数总体渐进增长趋势的关注和刻画。

空间复杂度

与时间复杂度类似，空间复杂度指的是运行过程中耗费的存储空间。
即算法中临时占用的存储空间大小的量度。
当一个算法空间复杂度为一个常量时，即不随n的大小而改变，可表示为O(1)
当算法空间复杂度与n成线性比例时为O(n)
类似也有O(log(n))、O(n^2)

后记

看完这些，希望你已经没有想看推公式的冲动了。
如果是这样的话，不妨点个赞吧。

为何要点赞？

如果本文解决了你的困惑，不妨点个赞鼓励一下。
不管你信不信，也不管你同不同意，实际上，你的每一次点赞都标志着你自身的进步。而打赏乃是点赞的高级形式
曾经有无数个点赞的机会，但是我都没有好好珍惜，假如时光可以倒流，我一定为他们也为自己点赞。