算法复杂度《C++篇》

一、算法是什么

算法就是一个定义良好的计算过程，他取一个或一组的值作为输入，并产生一个或一组值作为输出。简单来说算法就是一系列的计算过程，是程序员抽象出来的，并将输入结果转化为输出结果。

二、算法复杂度

对于一个问题，例如求1+2+3+...+100的值，看起来很简单，但它有各种各样的解决方法，有的人会硬算，用循环相加得到

int Algorithm_Add(int arr[],int n)
{
   int i=0;
   int sum=0;
   for(i=0;i<n;i++)
   {  
      sum+=arr[i];
   }
   return sum;
}

int main()
{
   int arr[100]={0};
   int i=0;
   for(i=0;i<100;i++)
   {
      arr[i]=++i;
   }
   printf("sum=%d\n",Algorithm_Add(arr,10));
   return 0;
}
      

也有人发现这是个等差数列前100项的和，根据等差数列前n项求和公式得出答案

int Algorithm_Add(int arr[],int n)
{
   int sum=(*(arr)+*(arr+n-1))*n/2;
   return sum;
}


int main()
{
   int arr[100]={0};
   int i=0;
   for(i=0;i<100;i++)
   {
      arr[i]=++i;
   }
   printf("sum=%d\n",Algorithm_Add(arr,10));
   return 0;
}
      

这两种算法得出的sum是一样的，但是这两种算法消耗的时间和空间却不一样

这就涉及到算法复杂度，我们为了衡量一个算法的好坏，主要从时间和空间两个维度上去比较。因此算法复杂度分为时间复杂度和空间复杂度，时间复杂度主要衡量一个算法的运行快慢，而空间复杂度主要衡量一个算法运行所需要的额外空间。

2.1.时间复杂度

时间复杂度的定义：在计算机科学中，算法的时间复杂度是一个函数，它定量的描述了该算法的运行时间。一个算法的执行所消耗的时间，从理论上说，是无法准确算出来的，只有你把程序在机器上跑起来，才能知道。但是我们需要每次都上机来测试吗，虽然可以，但是很麻烦，所以我们创造时间复杂度的分析方式。一个算法所花费的时间与其中语句的执行次数成正比，算法中的基本操作的执行次数，为算法的时间复杂度。

那么我们该怎么样计算时间复杂度呢？

大O的渐进表示法

大O符号：是用于描述函数渐进行为的数学符号。

推导大O阶方法：

1.用常数1取代运行时间中所有的加法常数。

2.在修改后的运行次数函数中，只保留最高阶项。

3.如果最高项存在且不为1，则除去这个项相乘的常数，得到的结果就是大O阶。

 那么就以上文的两种算法为例

对于第一种算法，我们先算出大致的执行次数，由于有一个执行n次的循环，所以执行次数大致为n次，系数为1，所以这个算法的时间复杂度为O(N)；

而第二种算法，我们通过求和公式直接算出了答案，所以执行次数为1次，所以算法的时间复杂度为O(1)。

大O渐进法会保留那些对结果影响较大的项，而忽略掉影响较小的，简单明了的表示出执行次数

比如例题

void Func1(int N)
{
   int count=0;
   for(int i=0;i<N;i++)
   {
      for(int j=0;j<N;j++)
      {
         ++count;
      }
   }
   for(int k=0;k<2+N;k++)
   { 
      ++count;
   }
   int M=10;
   while(M--)
   {
      ++count;
   }
   printf("%d\n",count);
} 

这个算法的执行次数大致为N*N+2+N+10，N*N的阶项最高，所以只保留N*N作为大概执行次数，时间复杂度为O(N*N)。

另外有些算法的时间存在最好、平均、最差情况

最坏情况：任意输入规模的最大执行次数(上界)

平均情况：任意输入规模的期望执行次数

最好情况：任意输入规模的最小运行次数(下界)

例如：在一个长度为N的数组中寻找一个数

最坏：N次（第N次找到了或者N次都将没找到）

平均：N/2次

最好：1次（第一次就找到）

在实际中一般情况关注的是算法的最坏情况，所以数组中搜索数据的时间复杂度为O(N)

 2.2空间复杂度

空间复杂度也是一个数学表达式，是对一个算法在运行过程中临时占用存储空间大小的量度。

空间复杂度不是程序占用了多少个bytes的空间，因为这样没多大的意义，所以空间复杂度算的是变量的个数。空间复杂度计算规则基本跟时间复杂度类似，也是用大O渐进表示法

注意：函数运行时所需要的栈空间（存储参数、局部变量、一些寄存器信息等）在编译期间已经确定好了，因此空间复杂度主要通过函数在运行时显式申请的额外空间来确定。

实例：

void BubbleSort(int* a,int n)
{
   assert(a);
   for(size_t end=n;end>0;--end)
   {
      int exchange=0;
      for(size_t i=1;i<end;++i)
      {
         if(a[i-1]>a[i])
         {
            Swap(&a[i-1],&a[i]);
            exchange=1;
         }
      }
      if(exchange=0)
         break;
   }
}

这个函数运行过程中创造了end,exchange,i 3个变量，所以是常数项个，空间复杂度为O(1)。

对于大部分算法的空间复杂度，都是O(1)或O(N)

2.3空间的复用

对于时间复杂度来说，时间是不可逆的，但是空间可以重复使用，所以计算时间复杂度和空间复杂度有很大的区别

比如一个斐波那契数的算法函数

int Func2(int N)
{
   if(N<3)
   {
      return 1;
   }
   return Func2(N-1)+Func2(N-2);
}

这样每次的递归相加的两个递归函数是复用同一个空间，而这样的空间有N个，所以空间复杂度为O(N)。