第2章 算法

第2章 算法

算法(Algorithm)这个单词最早出现在波斯数学家阿勒·花刺子密在公元825年(相当于我们中国的唐朝时期)所写的《印度数字算术》中。如今普遍认可的对算法的定义是:**算法是解决特定问题求解步骤的描述,**在计算机中表现为指令的有限序列,并且每条指令表示一个或多个操作。

2.1两种算法的比较

大家都已经学过一门计算机语言，不管学的是哪一种，学得好不好，好歹是可以写点小程序了。现在我要求你写一个求1+2+3+……+100结果的程序，你应该怎么写呢?
大多数人会马上写出下面的C语言代码(或者其他语言的代码):

int i, sum = 0,n =100;
for(i -1;i<- n; i++){
	sum = sum+ i;
}
printf(" %d ",sum) ;

德国数学家高斯的算法

int i, sum=0,n=100;
sum=(1 +n)* n/ 2;
printf ( "%d",sum) ;

2.2算法的特征

算法具有五个基本特性:输入、输出、有穷性、确定性和可行性。

1. 输入和输出特性比较容易理解，算法具有零个或多个输入。 算法至少有一个或多个输出，算法是一定需要输出的，不需要输出，你用这个算法干吗?

2. 有穷性:指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。

3. 确定性:算法的每一步骤都具有确定的含义，不会出现二义性。

4. 可行性:算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。可行性意味着算法可以转换为程序上机运行，并得到正确的结果。

2.3算法设计的要求

1. 正确性:算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。

2. 可读性:算法设计的另一目的是为了便于阅读、理解和交流。

3. 健壮性:当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。

4. 设计算法应该尽量满足时间效率高和存储量低的需求。

2.4算法效率的度量方法

1. 事后统计方法:这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。
2. 事前分析估算方法:在计算机程序编制前，依据统计方法对算法进行估算。

经过分析，我们发现，一个用高级程序语言编写的程序在计算机上运行时所消耗的时间取决于下列因素:
1．算法采用的策略、方法。2．编译产生的代码质量。3．问题的输入规模。4．机器执行指令的速度。

一个程序的运行时间，依赖于算法的好坏和问题的输入规模。所谓问题输入规模是指输入量的多少。

2.5函数的渐进增长

函数的渐近增长:给定两个函数f(n)和g(n),如果存在一个整数N,使得对于所有的n>N,f(n)总是比g(n)大,那么,我们说f(n)的增长渐近快于g( n )

我们可以得到这样一个结论，判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项(最高阶项)的阶数。
判断一个算法好不好，我们只通过少量的数据是不能做出准确判断的。根据刚才的几个样例，我们发现，如果我们可以对比这几个算法的关键执行次数函数的渐近增长性，基本就可以分析出:某**个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。**这其实就是事前估算方法的理论依据，通过算法时间复杂度来估算算法时间效率。

2.6算法时间的复杂度

2.6.1算法时间复杂度定义

在进行算法分析时,语句总的执行次数T(n)是关于问题规模n的函数,进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度,也就是算法的时间量度,记作:T(n)= O(f(n))。它表示随问题规模n的增大,算法执行时间的增长率和f(n)的增长率相同,称作算法的渐近时间复杂度,简称为时间复杂度。其中f(n)是问题规模n的某个函数。

2.6.2推导大O阶方法

那么如何分析一个算法的时间复杂度呢?即如何推导大О阶呢?我们给出了下面的推导方法，基本上,这也就是总结前面我们举的例子。
推导大O阶:
1.用常数1取代运行时间中的所有加法常数。2.在修改后的运行次数函数中,只保留最高阶项。3.如果最高阶项存在且不是1，则去除与这个项相乘的常数。得到的结果就是大O阶。

2.6.3 常数阶

首先顺序结构的时间复杂度。下面这个算法，也就是刚才的第二种算法（高斯算法)，为什么时间复杂度不是O(3)，而是O(1)。

int sum= 0,n - 100; /*执行一次*/
sum - (1+n) *n/2; /*执行一次*/
printf ("%d",sum); /*执行一次*/

这个算法的运行次数函数是f(n) =3。根据我们推导大О阶的方法，第一步就是把常数项3改为1。在保留最高阶项时发现，它根本没有最高阶项，所以这个算法的时间复杂度是O(1)

2.6.4 线性阶

线性阶的循环结构会复杂很多。要确定某个算法的阶次，我们常常需要确定某个特定语句或某个语句集运行的次数。因此，我们要分析算法的复杂度，关键就是要分析循环结构的运行情况。

2.6.5对数阶

下面的这段代码，时间复杂度又是多少呢?

int count= 1;
while (count< n){
    count = count * 2;
    /*时间复杂度为O(1)的程序步骤序列*/
}

由于每次count乘以2之后,就距离n更近了一分。也就是说，有多少个2相乘后大于 n，则会退出循环。由2*=n得到x=log2n。所以这个循环的时间复杂度为O(log2n)。

2.6.6 平方阶

下面例子是一个循环嵌套，它的内循环刚才我们已经分析过，时间复杂度为O(n)。

int i,j:
for(i =0; i< n; i++)
for (j=0;j<n; j++)
    /*时间复杂度为O(n^2)的程序步骤序列*/

而对于外层的循环，不过是内部这个时间复杂度为O(n)的语句，再循环n次。所以这段代码的时间复杂度为O(n^2)。如果外循环的循环次数改为了m,时间复杂度就变为O(m×n)。

2.7常见的时间复杂度

2.8最坏情况和平均情况

最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。
而平均运行时间也就是从概率的角度看，这个数字在每一个位置的可能性是相同的，所以平均的查找时间为n/2次后发现这个目标元素。
平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。也就是说，我们运行一段程序代码时,是希望看到平均运行时间的。可现实中，平均运行时间很难通过分析得到，一般都是通过运行一定数量的实验数据后估算出来的。
对算法的分析，一种方法是计算所有情况的平均值，这种时间复杂度的计算方法称为平均时间复杂度。另一种方法是计算最坏情况下的时间复杂度，这种方法称为最坏时间复杂度。一般在没有特殊说明的情况下,都是指最坏时间复杂度。

2.9算法空间复杂度

算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作:S[n)=O(f(n))，其中,n为问题的规模，f(n)为语句关于n所占存储空间的函数。

2.10总结回顾

算法的定义:算法是解决特定问题求解步骤的描述，在计算机中为指令的有限序列,并且每条指令表示一个或多个操作。
算法的特性:有穷性、确定性、可行性、输入、输出。
算法的设计的要求:正确性、可读性、健壮性、高效率和低存储量需求。算法特性与算法设计容易混，需要对比记忆。
算法的度量方法:事后统计方法（不科学、不准确)、事前分析估算方法。