一、时间复杂度
一个特定算法的“运算工作量”的大小,只依赖于问题的规模(通常用整数n来表示),或者说,算法的时间效率是问题的函数。例如:随着问题规模n的增长,算法执行的时间增长率和函数 f(n) 的增长率相同,可记作:
T(n) = O( f(n) )
称T(n)为算法的渐近时间复杂度(Asymptotic Time Complexity),简称时间复杂度。O是数量的符号。
一个程序的时间复杂度(Time Complexity)是指程序运行从开始到结束所需要的时间。一个算法是由控制结构和原操作构成的,其执行时间取决于两者的综合效果。为了便于比较同一问题的不同算法,通常的做法是:从算法中选取一种对于所研究的问题来说是基本运算的原操作,以该原操作重复执行的次数作为算法的时间度量。一般情况下,算法中原操作重复执行的次数是规模n的某个函数T(n)。
许多时候要精确地计算T(n)是比较困难的,我们引入渐进时间复杂度在数量级上估计一个算法的执行时间,也能够达到分析算法的目的。
定义(大 O 记号):如果存在两个正常数 c 和 n0,使得对所有的 n,n ≥ n0,有:
f(n) ≤ c g(n)
则有:
f(n) = O( g(n) )
时间复杂度:在算法分析中,算法整个运行过程所消耗的时间。具体计算如下:
1)每个赋值语句或读/写语句的运行时间通常是 O(1)。但是有列外情况,如赋值语句的右部表达式可能出现函数调用,这时要考虑计算函数值所消耗的时间。
2)顺序语句的运行时间由线性规则决定,即为该序列中耗费时间最多的语句的运行时间。
3)语句if的运行时间为条件语句测试时间 [ 通常取O(1) ] 加分支语句的运行时间;语句 if-else-if 的运行时间为条件测试时间加分支语句的运行时间;当有多个分支时,以耗费时间最多的一个分支为准。
4)循环语句的运行时间是 n 次重复执行循环体所耗费时间的总和。
5)通常用 O(1)表示常数计算时间。常见的渐进时间复杂度有:
O(1) < O(log2n) < O(n) < O(nlong2n) < O(n^2) < O(n^3) < O(2^n)
二、空间复杂度
算法的存储量包括:
1)输入数据占用的空间;
2)算法(程序)本身占用的空间;
3)辅助变量占用的空间。
其中,输入数据占用空间只取决于问题本身,和算法无关。算法本身占用空间虽与算法无关,但一般其大小是相对固定的。所以,研究算法的空间效率,只须分析出输入数据和算法本身之外的辅助空间。若需要辅助空间相对于输入数量来说是常数,则称此算法为原地工作,否则,应当输入数据规模的某个函数。
算法的空间复杂都是指算法在执行过程中所占辅助空间的大小(也有本书定义为所占全部存储空间大小),用S(n)表示。S为英文space的第一个字母。与算法的时间复杂度相同,算法的空间复杂度S(n)也可以表示为S(n) = O(g(n)),表示随着问题规模n的曾大,算法运行所需要存储量的增长与g(n)的增长率相同。