算法复杂度

1.复杂度的概念

     算法在编写成可执行程序后，运行时需要耗费时间资源和空间(内存)资源 。因此衡量⼀个算法的好坏，一般是从时间和空间两个维度来衡量的，即时间复杂度和空间复杂度。

     时间复杂度主要衡量一个算法的运行快慢，而空间复杂度主要衡量⼀个算法运行所需要的额外空间。

     在计算机发展的早期，计算机的存储容量很小。所以对空间复杂度很是在乎。但是经过计算机行业的迅速发展，计算机的存储容量已经达到了很高的程度。所以我们如今已经不需要再特别关注一个算法的空间复杂度。

2.时间复杂度

    定义:在计算机科学中，算法的时间复杂度是一个函数式T(N)，它定量描述了该算法的运行时间。

    Question 1:时间复杂度是衡量程序的时间效率，那么为什么不去计算程序的运⾏时间呢？

       

        1.因为程序运行时间和编译环境和运行机器的配置都有关系，比如同⼀个算法程序，用⼀个老编译器进行编译和新编译器编译，在同样机器下运行时间不同。

       2.同⼀个算法程序，用一个老低配置机器和新高配置机器，运行时间也不同。

       3.并且时间只能程序写好后测试，不能写程序前通过理论思想计算评估。

 

     Question 2:算法的时间复杂度是⼀个函数式T(N)到底是什么呢？

         这个T(N)函数式计算了程序的执行次数。实际中 我们计算时间复杂度时，计算的也不是程序的精确的执行次数，精确执行次数计算起来还是很麻 烦的(不同的⼀句程序代码，编译出的指令条数都是不⼀样的)，计算出精确的执行次数意义也不大，因为我们计算时间复杂度只是想比较算法程序的增长量级，也就是当N不断变大时T(N)的差别，我们知道 当N不断变大时常数和低阶项对结果的影响很小，所以我们只需要 计算程序能代表增长量级的大概执行次数，复杂度的表示通常使用大O的渐进表示法。

3.大O的渐进表示法

    大O符号（Big O notation）：是用于描述函数渐进行为的数学符号

     推导大O阶规则：

      1. 时间复杂度函数式T(N)中，只保留最高阶项，去掉那些低阶项，因为当N不断变大时，  

        低阶项对结果影响越来越小，当N无穷大时，就可以忽略不计了。

     2. 如果最高阶项存在且不是1，则去除这个项目的常数系数，因为当N不断变大，这个系数

        对结果影响越来越小，当N无穷大时，就可以忽略不计了。

     3. T(N)中如果没有N相关的项目，只有常数项，用常数1取代所有加法常数。   

4.时间复杂度的计算示例

     示例1

void Func1(int N)
{
    int count = 0;
    for (int k = 0; k < 2 * N ; ++ k)
    {
        ++count;
    }
    int M = 10;
    while (M--)
      {
         ++count;
      }
     printf("%d\n", count);
}

Func1执行的基本操作次数： T (N) = 2N + 10

根据推导规则得出 Func1的时间复杂度为： O(N)

   示例2

void Func2(int N, int M)
{
    int count = 0;
    for (int k = 0; k < M; ++ k)
    {
      ++count;
    }
    for (int k = 0; k < N ; ++k)
    {
       ++count;
    }
   printf("%d\n", count);
}

    Func2执行的基本操作次数：T (N) = M + N

    因此：Func2的时间复杂度为： O(N+M)

  示例3

void Func3(int N)
{
int count = 0;
for (int k = 0; k < 100; ++ k)
{
++count;
}
printf("%d\n", count);

  Func3执行的基本操作次数：T (N) = 100

  根据推导规则第1条得出 Func2的时间复杂度为： O(1)

5.空间复杂度

     空间复杂度也是⼀个数学表达式，是对⼀个算法在运行过程中因为算法的需要额外临时开辟的空间。

   空间复杂度不是算程序占用了多少的空间，因为常规情况每个对象大小差异不会很大，所以空间复杂度算的是变量的个数。

   空间复杂度计算规则基本跟时间复杂度类似，也使⽤大O渐进表示法。

    

   注意：函数运行时所需要的栈空间(存储参数、局部变量、⼀些寄存器信息等)在编译期间已经确定好了，因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。

6.空间复杂度的计算示例

// 计算BubbleSort的时间复杂度？
void BubbleSort(int* a, int n)
{
   assert(a);
   for (size_t end = n; end > 0; --end)
   {
       int exchange = 0;
       for (size_t i = 1; i < end; ++i)
       {
           if (a[i-1] > a[i])
          {
              Swap(&a[i-1], &a[i]);
              exchange = 1;
          }
       }
        if (exchange == 0)
        break;
    }
}

函数栈帧在编译期间已经确定好了， 只需要关注函数在运行时额外申请的 空间。

BubbleSort额外申请的空间有 exchange等有限个局部变量，使用了 常数个额外空间。

因此空间复杂度为 O(1)

7.常见复杂度对比