算法的时间复杂度及空间复杂度的简单介绍

算法的时间复杂度：

      度量一个程序(算法)执行时间的两种方法：

        1)事后统计的方法

          这种方法可行,但是有两个问题:一是要想对设计的算法的运行性能进行评测,需要实际运行该程序;二是所得时间的统计量依赖于计算机的硬件、软件等环境因素,这种方式,要在同一台计算机的相同状态下运行,才能比较哪个算法速度更快。

        2)事前估算的方法

          通过分析某个算法的时间的复杂度来判断哪个算法更优。

       时间频度

        基本介绍：

        时间频度:一个算法花费的时间与算法中语句的执行次数成正比例,哪个算法中语句执行次数多,它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。 [举例说明]

        举例说明--基本案例

        比如计算1-100所有数字之和，我们设计两种算法：

int total=0;
int end=100;
//使用for循环计算
for(int i=1;i<=end;i++){
    total+=i;
}

//T(n)=n+1
total=(1+end)*end/2;
//T(n)=1;

        举例说明--忽略常数项

        例如：2n+20和2n随着n变大,执行曲线无限接近,20可以忽略

        举例说明--忽略低次项

        例如：n^2+5n+20和n^2随着n变大,执行曲线无限接近,可以忽略5n+20

        举例说明--忽略系数

        例如：随着n值变大, 5n^2+7n和3n^2+ 2n ,执行曲线重合,说明这种情况下,5和3可以忽略

     时间复杂度

        1)一般情况下,算法中的基本操作语句的重复执行次数是问题规模n的某个函数,用T(n)表示,若有某个辅助函数f(n),使得当n趋近于无穷大时, T(n) /f(n的极限值为不等于零的常数,则称f(n)是T(n)的同数量级函数。记作T(n)=O(f(n)),称O(f(n))为算法的渐进时间复杂度,简称时间复杂度。

        2)T(n)不同,但时间复杂度可能相同。如: T(n)=n^2+7n+6与T(n)=3n2+2n+2它们的T(n)不同,但时间复杂度相同,都为O(n^2).

        3)计算时间复杂度的方法:

               ①用常数1代替运行时间中的所有加法常数 
               ②修改后的运行次数函数中,只保留最高阶项
               ③去除最高阶项的系数

     常见的时间复杂度

        1)常数阶O(1)

        无论代码执行了多少行,只要是没有循环等复杂结构,那这个代码的时间复杂度就都是O(1)

int i=1;
int j=2;
++i;
j++;
int m=i+j;

        上述代码在执行的时候,它消耗的时候并不随着某个变量的增长而增长,那么无论这类代码有多长,即使有几万几十万行,都可以用O(1)来表示它的时间复杂度。

        2)对数阶O(㏒₂n)

int i=1;
while(i<n){
    i=i*2;
}

        3)线性阶O(n)

int j=0;
for(int i=1;i<=n;i++)
{
    j=i;
    j++;
}//单层for循环

        说明:这段代码, for循环里面的代码会执行n遍,因此它消耗的时间是随着n的变化而变化的,因此这类代码都可以用O(n)来表示它的时间复杂度

        4)线性对数阶O(n㏒₂n)

int i=0;
for(int m=1;m<n;m++){
    i=1;
    while(i<n){
        i=i*2;
    }
}

        说明:线性对数阶O(nlog₂N)其实非常容易理解,将时间复杂度为O(log₂n)的代码循环N遍的话,那么它的时间复杂度就是n*O(log₂N),也就是了O(nlog₂N)

        5)平方阶O(n^2)

for(int x=1;x<=n;x++){
    for(int i=1;i<=n;i++){
        j=i;
        j++;
    }
}

        说明:平方阶O(n^2)就更容易理解了,如果把O(n)的代码再铁套循环一遍,它的时间复杂度就是O(n^2),这段代码其实就是嵌套了2层n循环,它的时间复杂度就是O(n*n),即O(n^2)如果将其中一层循环的n改成m,那它的时间复杂度就变成了O(m*n)

        6)立方阶O(n^3)

        说明:相当于三层for循环

        7)k次方阶O(n^k)

        8)指数阶O(2^n)

     说明：常见的算法时间复杂度由小到大依次为: O(1)<O(㏒₂n)<O(n)<O(n㏒₂n)<O(n^2)<O(n^3)<O(n^k) <O(2^n) ,随着问题规模n的不断增大,上述时间复杂度不断增大,算法效率越来越低,我们尽可能的在现实中避免使用指数阶的算法

平均时间复杂度和最坏时间复杂度

     平均时间复杂度和最坏时间复杂度

         1)平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下,该算法的运行时间

         2)最坏情况下的时间复杂度称最坏时间复杂度。一般讨论的时间复杂度均是最坏情况下的时间复杂度。这样做的原因是:最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限,这就保证了算法的运行时间不会比最坏情况更长

         3)平均时间复杂度和最坏时间复杂度是否一致,和算法有关(如下图)                                                                                                                     

     常用排序算法比较：

                            

     相关术语解释:
            1)稳定:如果a原本在b前面,而a=b,排序之后a仍然在b的前面
            2)不稳定:如果a原本在b的前面,而a=b,排序之后a可能会出现在b的后面
            3)内排序:所有排序操作都在内存中完成
            4)外排序:由于数据太大,因此把数据放在磁盘中,而排序通过磁盘和内存的数据传输才能进行
            5)时间复杂度:一个算法执行所耗费的时间。
            6)空间复杂度:运行完一个程序所需内存的大小
            7) n:数据规模
            8) k:"桶"的个数)
            9)In-place:不占用额外内存
            10) Out-place: 占用额外内存

算法的空间复杂度：

       1)类似于时间复杂度的讨论,一个算法的空间复杂度(Space Complexity)定义为该算法所耗费的存储空间,它也是问题规模n的函数。

       2)空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。有的算法需要占用的临时工作单元数与解决问题的规模n有关,它随着n的增大而增大,当n较大时,将占用较多的存储单元,例如快速排序和归并排序算法就属于这种情况

      3)在做算法分析时,主要讨论的是时间复杂度。从用户使用体验上看,更看重的程序执行的速度。一些缓存产品(redis,memcache)和算法(基数排序)本质就是用空间换时间.