我们平常做数学题的时候,对于同一道题,有简洁的方法也有复杂的方法。而我们的计算机程序也是如此。算法在编写可执行程序时,运行时需要时间资源和空间(内存)资源。因此衡量一个算法的好坏,一般是从时间和空间两个维度来衡量的,即我们今天要了解的时间复杂度和空间复杂度。
一、算法的时间复杂度
1、时间复杂度的概念
算法的时间复杂度是一个函数,它定量描述了该算法的运行时间。一个算法所花费的时间与其中语句的执行次数成正比例,算法中的基本操作的执行次数,为算法的时间复杂度。
即:找到某条基本语句与问题规模N之间的数学表达式,就是算出了该算法的时间复杂度。
void Func1(int N)
{
int count = 0;
for (int i = 0; i < N; ++i)
{
for (int j = 0; j < N; ++j)
{
++count;
}
}//上面两个for循环,一共执行N*N=N^2次
for (int k = 0; k < 2 * N; ++k)
{
++count;
}//执行2*N次
int M = 10;
while (M--)
{
++count;
}//执行M=10次
printf("%d\n", count);
}
int main()
{
int N = 0;
Func1(N);
}
Func1执行的基本操作次数:F(N) = N^2 + 2*N +10
执行次数 准确值 估算值
N = 10 F(N) = 130 100
N = 100 F(N) = 10210 10000
N = 1000 F(N) = 1002010 1000000
总结:N越大·,对后面结果的影响越小。
我们计算时间复杂度时,并不一定要计算精确的执行次数,而只需要大概的执行次数,那么怎样表达时间复杂度呢?就需要我们使用大O的渐近表示法。
2、大O的渐近表示法
大O符号(Big O notation):是用于描述函数渐进行为的数学符号。
推导大O阶方法:
1、用常数1取代运行时间中的所有加法常数。
2、在修改后的运行次数函数中,只保留最高阶项。
3、如果最高级项存在且不是1,则去除与这个项目相乘的常数。得到的结果就是大O阶。
使用大O渐进法后,Func1的时间复杂度为:O(N^2)
算法的时间复杂度存在最好、平均和最坏情况:
最坏情况:任意输入规模的最大运行次数(上界)。
平均情况:任意输入规模的期望运行次数。
最好情况:任意输入规模的最小运行次数(下界)。
例如:在长度为N的数组中搜索一个数据x
最好情况:1次找到
最坏情况:N次找到
平均情况:N/2次找到
在实际中,我们一般关注的是算法的最坏运行情况,所以数组中搜索数据时间复杂度为O(N)
3、有关时间复杂度的例题:
实例1:计算Func(2)的时间复杂度
void Func2(int N)
{
int count = 0;
//执行次数:2*N
for (int k = 0; k < 2 * N; ++k)
{
++count;
}
//执行次数:M = 10
int M = 10;
while (M--)
{
++count;
}
printf("%d\n", count);
}
时间复杂度:O(N)
实例2:计算Func3的时间复杂度
void Func3(int N, int M)
{
int count = 0;
//执行次数:M
for (int k = 0; k < M; ++k)
{
++count;
}
//执行次数N
for (int k = 0; k < N; ++k)
{
++count;
}
printf("%d\n", count);
}
时间复杂度为:O(M+N)
我们不能确定M和N的数量级,不能确定其大小,不能随意舍弃。(万一M远大于N,或者N远大于M等多种复杂情况,这都是我们在这个代码中无法确定的。)
实例3:计算Func4的时间复杂度
void Func4(int N)
{
int count = 0;
for (int k = 0; k < 100; ++k)
{
++count;
}
printf("%d\n", count);
}
时间复杂度为:O(1)
只要是常数,在时间复杂度里用O(1)替代。用常数1取代运行时间中的所有加法常数。
实例四:计算strchr的时间复杂度。(strchr用于在一个字符串中查找单个字符)
const char* strchr(const char* str, int character);
追加一个字符串中的字符,可能是最后一个,可能在中间,可能在第一个。
所以三种情况:最好情况:字符串中的第一个字符
最坏情况:字符串中的最后一个字符
平均情况:字符串长度一半的一个字符
所以取最坏情况的时间复杂度:O(N)
实例五:计算BubbleSort的时间复杂度
void BubbleSort(int* a, int n)
{
assert(a);
for (size_t end = n; end > 0; --end)
{
int exchange = 0;
for (size_t i = 1; i < end; ++i)
{
if (a[i - 1] > a[i])
{
Swap(&a[i - 1], &a[i]);
exchange = 1;
}
}
if (exchange == 0)
break;
}
}
此代码是冒泡排序,我们直接考虑最坏的情况,假设有一个数组,将它进行冒泡排序,最坏的情况便是从大到小依次排列,例如arr[ ] = {9、8、7、6、5、4、3、2、1}
将这个数组进行冒泡排序,即使是从小到大依次排列
BubbleSort的时间复杂度为:O(N^2)
实例6:
int BinarySearch(int* a, int n, int x)
{
assert(a);
int begin = 0;
int end = n - 1;
while (begin <= end)
{
int mid = begin + ((end - begin) >> 1);
if (a[mid] < x)
{
begin = mid + 1;
}
else if (a[mid] > x)
{
end = mid - 1;
}
else
return mid;
}
return -1;
}
解析如下图:
实例7:计算阶乘递归Fac的时间复杂度
long long Fac(size_t N)
{
if (0 == N)
return 1;
return Fac(N - 1) * N;
}
阶乘递归:5!= 5*4*3*2*1
执行次数是一个等差数列,第一项为N-1,第二项为N-2,最后一项为1.
根据等差数列前n项和的公式:Sn(N)= (N(N-1) )/2
所以阶乘递归Fac的时间复杂度为:O(N^2)
在修改后的运行次数函数中,只保留最高阶项。
实例8:计算斐波那契递归Fib的时间复杂度
long long Fib(size_t N)
{
if (N < 3)
return 1;
return Fib(N-1)+Fib(N-2)
}
所以算法的时间复杂度为:O(2^N)
二、算法的空间复杂度
1、算法时间复杂度的概念
空间复杂度也是一个数学表达式,是对一个算法在运行过程中临时占用额外存储空间大小的量度。
空间复杂度不是程序占用了多少字节的空间,因为这个也没太大意义,所以空间复杂度算的是变量的个数(算的是一个大概)。空间复杂度计算规则基本跟时间复杂度类似,也使用大O渐进表示法。
函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了,因此空间复杂度主要通过函数在运行时显示申请的额外空间来确定。
2、算法空间复杂度的经典例题
实例1:计算BubbleSort的空间复杂度
void BubbleSort(int* a, int n)
{
assert(a);
for (size_t end = n; end > 0; --end)
{
int exchange = 0;
for (size_t i = 1; i < end; ++i)
{
if (a[i - 1] > a[i])
{
Swap(&a[i - 1], &a[i]);
exchange = 1;
}
}
if (exchange == 0)
{
break;
}
}
}
只使用了常量级别的额外空间,而这些空间并不随输入规模n的增加而增加。我当时其实不太明白为什么它是常量级?因为在for循环里,当i = 0时,i不能=1;i = 1时,i不能等于2;所以,只需要一个空间就可以了。
实例2:Fibonacci的空间复杂度,返回斐波那契数列的前n项
空间是可以重复利用,不累计计算的。(空间复杂度)
时间是一去不复返,时间是累计计算的。(时间复杂度)
空间销毁的本质是归还使用权。就像是出去住酒店,订了一间房,那现在那间房就属于你。你退了那间房,也就不属于你了,就相当于你对你来说,就是归还了使用权。但是别人可以去订那间房。所以空间销毁的本质是归还使用权
long long* Fibonacci(size_t n)
{
if (n == 0)
return NULL;
long long* fibArray = (long long*)malloc((n + 1) * sizeof(long long));
fibArray[0] = 0;
fibArray[1] = 1;
for (int i = 2; i <= n; ++i)
{
fibArray[i] = fibArray[i - 1] + fibArray[i - 2];
}
return fibArray;
}
图中调用的函数大多都是重复的,这个算法在创建函数栈帧的过程中会重复利用内存空间。最左侧的分支创建的栈帧最多,而且完全包含了右侧的。即由栈帧销毁的本质是归还使用权可知,它的空间复杂度为最左侧创建的栈帧个数,即是:O(N)
实例三:计算阶乘递归Fac的空间复杂度
long long Fac(size_t N)
{
if (N == 0)
return 1;
return Fac(N - 1) * N;
}
函数递归N次,每次创建一个栈帧,函数不创建临时变量,空间复杂度为O(N)
如图所示:
三、要点总结
1、算法中的基本操作的执行次数,为算法的时间复杂度。
2、在一般情况下,我们关注算法的最坏情况,即做悲观预期。
3、算法在运行过程中临时占用额外存储空间大小的量度是算法的空间复杂度
4、空间是可以重复利用,不累计计算的(空间复杂度)。时间是一去不复返,时间是累计计算的(时间复杂度)。
5、空间销毁的本质是归还使用权。
希望大家每天都有所进步!