第2章 算法

第2章 算法

​ 算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

1 算法定义

​ 什么是算法呢？算法是描述解决问题的方法。

​ 现在的定义是：算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

2 算法的特征

2.1 输入输出

​ 算法具有0个或者多个输入。至少有一个输出

2.2 有穷性

​ 指算法在执行有限的步骤后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。

2.3 确定性

​ 算法的每一步骤都具有确定的含义，不会出现二义性。

2.4 可行性

​ 算法的每一步都必须可执行，也就是说，每一步都能够通过执行有限次数完成。

3 算法设计的要求

3.1 正确性

​ 算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反应问题的需求、能够得到问题的正确答案。

​ 但是算法的“正确”通常在用法上有很大的差别，大体分为以下4个层次。

1. 算法程序没有语法错误。
2. 算法程序对于合法的输入数据能够产生满足需求的输出结果。
3. 算法程序对于非法的输入数据能够得出满足规格说明的结果。（一般满足到这里）
4. 算法程序对于精心选择的，甚至刁难的测试数据都有满足要求的输出结果。（满足这个的成本太高）

3.2 可读性

​ 算法设计的另一个目的是为了便于阅读、理解和交流。

​ 我们写代码的目的，一方面是为了让计算机执行，还有重要的目的是为了便于他人阅读，让人理解和交流，如果可读性不好，时间长了自己都不知道写了些什么。可读性是算法（也是实现算法的代码）好坏很重要的标志。

3.3 健壮性

​ 当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。

3.4 时间效率高和存储量低

​ 时间效率指的是算法的执行时间，对于同一个问题，如果有多个算法能够解决，执行时间短的算法效率高，执行时间长的效率低。存储量需求指的是算法在执行过程中需要的最大存储空间，主要指算法程序运行时所占用的内存或者外部硬盘存储空间。设计算法应该尽量满足时间效率高和存储量低的需求。

4 算法效率的度量方法

4.1 事后统计方法

​ 这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。

（因为缺陷比较大，所以不采用。）

4.2 事前分析估算方法

​ 在计算机程序编制前，依据统计方法对算法进行估算。

​ 经过分析，我们发现，一个用高级程序语言编写的程序在计算机上运行消耗的时间取决于下列因素：

1. 算法采用的策略、方法。
2. 编译产生的代码质量。
3. 问题的输入规模。
4. 机器执行指令的速度。

​ 第一条本身就是算法好坏的根本，第二条是由软件来支撑的。第四条看的是硬件设备的性能。所以抛开这些因素，一个程序运行时间，依赖于算法的好坏和问题的输入规模。那么什么是问题输入规模，就是输入量的多少。

​ 对比两种求和的代码：

第一种：

int i, sum = 0, n=100;  	//执行1次
for(i = 1;i<n;i++){			//执行n+1次
    sum = sum+i;			//执行n次
}
printf("%d",sum);			//执行1次

第二种：

int i, sum = 0, n=100;		//执行1次
sum =(1+n)*n/2;				//执行1次
printf("%d",sum);			//执行1次

第一种算法执行了2n+3次；第二种执行了3次。效率高低显而易见。

5 函数的渐近增长

​ 给定两个函数f(n)和g(n)，如果存在一个整数N，使的对于所有的n>N,f(n)总是比g(n)大，那么，我们说f(n)的增长渐近快于g(n)。

​ 有个结论：判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项(最高阶项)的阶数。

​ 通过判断关键执行次数函数的渐增长性，可以分析出：某个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。

6 算法的时间复杂度

6.1定义

​ 在进行算法分析时，语句总的执行次数T(n)是关于问题规模的函数，进而分析T(n)随着n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间度量，记作T(n) = O(f(n))。它表示随着问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中f(n)是问题规模n的某个函数。

​ 使用大写O( )来体现算法时间复杂度的记法，这种方法被称为大O记法。

​ 一般情况下随着n的增大，T(n)增长最慢的算法是最优算法。

O(1)常阶 O(n)线性阶 O(n²)平方阶

6.2 推导大O阶方法

1. 用常数1取代运行时间中的所有加法常数。

2. 在修改后的运行次数函数中，只保留最高阶项。

3. 如果最高阶项存在且不是1，则去除与这个项相乘的常数。

   得到的就是大O阶。

6.3 常数阶

​ 通常指O(1)。

​ 顺序执行。还有分支结构。对于分支结构无论是真假，执行的次数都是恒定的，不会随着n的变大而发生变化，所以单纯的分支结构(其中没有循环结构)，时间复杂度也是O(1)。

6.4 线性阶

​ O(n)。

for (int i = 0; i < n; ++i) {
    //时间复杂度为O(1)程序。
}

6.5 对数阶

int count = 1;
while (count < n) {
    count = count * 2;
    //时间复杂度为O(1)的程序。
}

​ 每次count乘以2之后，就距离n更近了一步。也就是说，有多少个2相乘后大于n，则会退出循环。由2ⁿ=x得到x = log₂n。所以这个循环的时间复杂度为O(log n)

6.6 平方阶

​ O(n²)。

int n;
int i, j;
for (i = 0; i < n; ++i) {
    for (int j = 0; j < n; ++j) {
        //时间复杂度为O(1)的程序步骤。
    }
}

​ 如果外循环次数成了m。时间复杂度就是O(m×n)。

int i,j;
for (i = 0; i < m; ++i) {
    for (int j = 0; j < n; ++j) {
        //时间复杂度为O(1)的程序步骤。
    }
}

​ 如果使用函数，可以理解为将函数中的代码替换到主函数中进行求解时间复杂度。

6.6 常见的时间复杂度

执行次数函数	阶	非正式术语
12	O(1)	常数阶
2n+3	O(n)	线性阶
3n2+2n+1	O(n2)	平方阶
7log2n+28	O(logn)	对数阶
2n+3nlog2n+57	O(nlogn)	nlogn阶
6n3+2n2+3n+8	O(n3)	立方阶
2n	O(2n)	指数阶

​ 常见时间复杂度耗费时间从小到大依次是：

O(1)<O(logn)<O(n)<O(nlogn)<O(n²)<O(n³)<O(2ⁿ)<O(n!)<O(nⁿ)

6.11最坏情况和平均情况

​ 最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常除非特别指定，我们提到的运行时间都是最坏情况的运行时间。

​ 平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。

6.12 算法空间复杂度

​ 算法的空间复杂度通过计算算法所需要的存储空间实现，算法空间复杂度的计算公式记作：S(n) = O(f(n))，其中n为问题的规模，f(n)为语句关于n所占存储空间的函数。

7 总结回顾

​ 算法的定义：算法是解决特定问题求解步骤的描述，在计算机中指令的有限序列，并且每条指令表示一个或多个操作。

​ 算法的特性：有穷性、确定性、可行性、输入、输出。

​ 算法设计要求：正确性、可读性、健壮性、高效率和低存储量需求。

​ 算法度量方法：事后统计方法（不科学）、事前分析估算方法。

​ 函数渐进增长：给定两个函数f(n)和g(n)，如果存在一个整数N，使的对于所有的n>N,f(n)总是比g(n)大，那么，我们说f(n)的增长渐近快于g(n)。判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项(最高阶项)的阶数。通过判断关键执行次数函数的渐增长性，可以分析出：某个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。

​ 推导大O阶：

1. 用常数1取代运行时间中的所有加法常数。

2. 在修改后的运行次数函数中，只保留最高阶项。

3. 如果最高阶项存在且不是1，则去除与这个项相乘的常数。

4. 得到的就是大O阶。

   常见时间复杂度排序：

   O(1)<O(logn)<O(n)<O(nlogn)<O(n²)<O(n³)<O(2ⁿ)<O(n!)<O(nⁿ)