时间复杂度和空间复杂度
算法效率的度量方法
-
事后统计法:这种方法主要是通过设计好的测试程序和数据,利用计算机计时器对不同算法编制的程序的运行时间进行比较,从而确定算法效率的高低
缺陷:
- 必须依据算法实现编制好测试程序,通过需要花费大量时间和精力,完了发觉测试的是最糟糕的算法,那不是功亏一篑
- 不同测试环境差别不是一般的大
-
事前分析估算方法:在计算机程序编写前,依据统计方法对算法进行估算
- 经过总结,我们发现一个高级语言编写的程序在计算机上运行是所消耗的时间取决于下列因素:
- 算法采用的策略,方案
- 编译产生的代码质量
- 问题的输出规模
- 机器执行指令的速度
- 经过总结,我们发现一个高级语言编写的程序在计算机上运行是所消耗的时间取决于下列因素:
-
由此可见,抛开这些与计算机硬件、软件有关的因素,一个程序的运行时间依赖于算法的好坏和问题的输出规模
//第一种算法: int i,sum=0,n=100;//执行1次 for(i=1;i<=n;i++)//执行了n+1次 { sum=sum+i;//执行n次 } //第二种算法: int sum=0,n=100;//执行1次 sum=(1+n)*n/2;//执行1次
- 第一种算法执行了1+n+1+n=2n+2;
- 第二种算法是1+1=2次
- 如果我们把循环看作一个整体,忽略头尾判断的开销,那么这俩个算法其实就是n和1的差距
int i,j,x=0,sum=0,n=100; for(i=1;i<=n;i++) { for(j=1;j<=n;j++){ x++; sum=sun+x; } }
- 这个例子中,循环条件i从1到100,每次都要让j循环100次,如果非常较真的研究总共精确执行次数,那是非常累的
- 另一方面,我们研究算法的复杂度,侧重的是研究算法随着输入规模阔发增长量的一个抽象,而不是精确地定位需要执行多少次,因为如果这样的话,我们就有得考虑回编译器优化等问题。
- 所以对于刚才例子的算法,我们可以果断判定需要执行100^2次
- 我们不关心编写程序所用的语言是什么,也不关心这些程序将跑在什么样的计算机上,我们只关心它所实现的算法
- 这样,不计那些循环索引的递增和循环终止条件,声明变量,打印结构等操作。最终,在分析程序运行时间时,最重要的时把程序看成是独立与程序设计语言的算法或一系列步骤
-
我们在分析一个算法的运行时间时,重要的时把基本操作的数量和输出模式关联起
-
我可以忽略算法加的常数,与最高次项相乘的常数也不重要,可以忽略
-
判断一个算法效率时,函数中的常数和其他次要项常常可以忽略,而更应该关注主项(最高项)的阶数
算法时间复杂度
-
算法时间复杂度的定义:在进行算法分析时,语句总的执行次数T(n)时关于问题规模n的函数,进而分析T(n)随n的变化情况并确定T(n)的数量级。算法时间复杂度,也就是算法时间量度,记作:T(n)=O(f(n))。它表示随问题规模n的增大,算法执行时间的增长率和f(n)的增长率相同,称作算法的渐近时间复杂度,简称为时间复杂度。其中f(n)时问题规模n的某个函数
-
关键:执行次数=时间
-
这样用大写O()来体现算法时间复杂度的记法,我们称为大O算法
-
一般情况下,随着输入规模n的增大,T(n)增长最慢的算法为最优算法
-
如何分析一个算法的时间复杂度呢:
- 用常数1取代运行时间中所有加法常数
- 在修改后的运行次数函数中,只保留最高阶项
- 如果最高想存在且不是1,则去除与这项相乘的常数
- 得到的最后结果就是大O阶
-
常数阶
int sum = 0,n = 100; printf("hello world\n"); printf("hello world\n"); printf("hello world\n"); printf("hello world\n"); printf("hello world\n"); sum = (1+n)*n/2;
O(1)
-
线性阶
-
一般含有非嵌套循环涉及线性阶,线性阶就是随着问题规模n的扩大,对应计算次数呈直线增长
int i,n=100,sum=0; for(i=0;i<n;i++){ sum = sun+i; }
上面这段代码,它的循环的时间复杂度为O(n),因为循环体中的代码需要执行n次
-
-
平方阶
int i,j,n=100; for(i=0;i<n;i++){ for(j = 0;j < n;j++){ printf("hello world"); } }
n等于100,也就是说外层循环每执行一次,内层循环就执行100次,那总共程序想要从这俩个循环出来,需要执行100*100次,也就是n的平方。所以这段代码的时间复杂度为O(n^2)
-
对数阶
int i= 1,n = 100; while(i<n){ i = i * 2; }
由于每次i * 2之后,就会举例n更近一步,假设有x个2相乘之后大于或等于n,则会退出循环
于是2^x = 你得到x = log(2)n,所以这个循环的时间复杂度为O(logn)
-
常用的时间复杂度所耗费的时间从小到大依次是:O(1)<O(logn)<O(n)<O(nlogn)<O(n2)<O(n3)<O(2n)<O(n!)<O(nn)
-
平均运行时间是期望的运行时间
-
最坏运行时间,通常除非特别指定,我们提到的运行时间都是最坏情况的运行时间
空间复杂度
-
算法的空间复杂度通过计算算法所需的存储空间实现,算法的空间复杂度的计算公式记作:S(n)=O(f(n)),其中,n为问题规模,f(n)为语句关于n所占存储空间的函数
-
通常,我们都是用“时间复杂度”来指运行时间的需求,用“空间复杂度”指空间需求