大话数据结构 第二章 算法

算法定义

算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

算法的特性

算法有五个基本特性：输入、输出、有穷性、确定性和可行性。

输入输出

算法具有零个或多个输入，至少有一个或多个输出，输出的形式可以是打印输出，也可以是返回一个或多个值等。

有穷性

算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每个步骤在可接受的时间内完成。

确定性

算法的每一步骤都具有明确的含义，不会出现二义性。

可行性

算法的每一步都必须是可行的，每一步都能够执行有限次数完成。

算法设计的要求

正确性、可读性、健壮性、高时间效率和低存储量

正确性

算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。
算法的“正确”分为四个层次

1. 算法程序没有语法错误
2. 算法程序对于合法的输入数据能够产生满足要求的输出结果
3. 算法程序对于非法的输入数据能够得出满足规格说明的结果
4. 算法程序对于精心选择的，甚至刁难的测试数据都有满足要求的输出结果

层次1要求最低，层次4要求最难，一般情况下，把层析3作为一个算法是否正确的标准。

可读性

算法设计的另一目的是为了便于阅读、理解和交流。
可读性是算法好坏很重要的标志。

健壮性

当输入数据不合法是，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。

时间效率高和存储量低

时间效率指的是算法的执行时间，储存量需求指的是算法在执行过程中需要的最大存储空间，主要值算法程序运行时所占用的内存或外部硬盘存储空间。
设计算法应该尽量满足时间效率高和存储量低的要求。

算法效率的度量方法

事后统计方法

通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的查询的运行时间进行比较，从而确定算法效率的高低。

这种方法具有很大的缺陷：

• 必须依据算法事先编制好程序，这通常需要花费大量的时间和精力。如果编制出来发现宫根本是很糟糕的算法，不是竹篮打水一场空吗？
• 时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。要知道，现在的一台四核处理器的计算机，N 当年 286、386、486 等老爷爷辈的机器相比，在处理算法的运算速度上，是不能相提并论的；而所用的操作系统、编译器、运行框架等软件的不同，也可以影响他们的结果；就算是同一台机器，CPU使用率和内存占用情况不一样，也会造成细微的差异。
• 算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。比如10个数字的排序 ，不管用什么算沽，差异几乎是零。而如果有一百万个随机数字排序，那不同算法的差异就非常大了。那么我们为了比较算法，到底用多少数据来测试，这是很难判断的问题。

事前分析估算方法

在计算机查询编制前，依据统计方法对算法进行估算。

一个高级程序语言编写的查询在计算机上运行时所消耗的实际取决于以下因素：

1. 算法采用的策略、方法
2. 编译产生的代码质量
3. 问题的输入规模
4. 机器执行指令的速度

第 1条当然是算法好坏的根本，第2条要由软件来支持，第4条要看硬件性能。
也就是说，抛开这些与计算机硬件、软件有关的因素，一个程序的运行时间，依赖于算法的好坏和问题的输入规模。所谓问题输入规模是指输入量的多少。

三种求和算法：
第一种

int i;
int sum = 0;
int n = 100;
for(i = 1;i<=n;i++){
    sum += i;
}
System.out.println(sum);

第二种

int sum = 0;
int n = 100;
sum = (1+n)*n/2;
System.out.println(sum);

第三种

int x = 0;
int sum = 0;
int n = 100;
for(int i=1;i<=n;i++){
    for(int j=1;j<=n;j++){
        x++;
        sum += x;
    }
}
System.out.println(sum);

由此可见，第一种f(n)=n，第二种需要f(n)=1，第三种需要f(n)=n^2^

函数的渐进增长

函数的渐进增长：给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N，f(n)总是比g(n)大，那么，f(n)的增长渐进是快于g(n)

假设算法C执行次数是4n+8,算法D是2n²+1,那么

次数	算法C(4n+8)	算法C’(n)	算法D(2n2+1)	算法D’(n2)
n =1	12	1	3	1
n =2	16	2	9	4
n =3	20	3	19	9
n =10	48	10	201	100
n =100	408	100	20001	10000
n =1000	4008	1000	2000001	1000000

由此可见，最高次项的常数不重要。
假设算法E是2n²+3n+1,算法F是2n³+3n+1，那么

次数	算法E(2n2+3n+1)	算法E’(n2)	算法F(2n3+3n+1)	算法F’(n3)
n =1	6	1	6	1
n =2	15	4	23	8
n =3	28	9	64	27
n =10	231	100	2031	1000
n =100	20301	10000	200
01	1000000

由此可见，最高次项指数大的，函数随着n的增长，结果也会变得增长特别快。
假设算法G执行次数是2n²,算法H是3n+1,算法I是2n²+3n+1那么

次数	算法G(2n2)	算法H(3n+1)	算法I(2n2+3n+1)
n =1	2	4	6
n =2	8	7	15
n =5	50	16	66
n =10	200	31	231
n =100	20000	301	20301
n =1000	2000000	3001	2003001

由此可见，判断个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项（最高阶项）的阶数。
判断一个算法好不好，我们只通过少量的数据是不能做出准确判断的。根据刚才的几个样例，我们发现，如果我们可以对比这几个算法的关键执行次数函数的渐近增长性，基本就可以分析出：某个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。这其实就是事前估算方法的理论依据，通过算法时间复杂度来估算算法时间效率。

算法时间复杂度

在进行算法分析时，语句总的执行次数T(n)是关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间度量，记作：T(n)=O(f(n))。它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中f(n)是问题规模n的某函数。
一般情况下，随着n的增大，T(n)增长最慢的算法为最优算法。

推导大O阶方法

1. 用常数1取代运行时间中的所有加法常数
2. 在修改后的运行次数函数中，只保留最高阶项
3. 如果最高阶项操作且不是1，则去除与这个项相乘的常数

常数阶

int sum = 0;
int n = 100;
sum = (1+n)*n/2;
sum = (1+n)*n/2;
sum = (1+n)*n/2;
sum = (1+n)*n/2;
sum = (1+n)*n/2;
System.out.println(sum);

以上代码执行8次，则时间复杂度为O(1)。

线性阶

for(int i=0;i<n;i++){
    //时间复杂度为O(1)的程序步骤
}

以上代码，时间复杂度为O(n)

对数阶

int count = 1;
while(count<n){
    count = count *2;
}

由于count乘以2之后，就距离n更近了一分，也就是有多少个2相乘会大于n，因此由2^x=n,得到x=log₂n，所以以上代码时间复杂度为O(logn)

平方阶

for(int i=0;i<n;i++){
    for(int j=0;<n;j++){
        //时间复杂度为O(1)的程序步骤序列
    }
}

以上代码，时间复杂度为O(n²)

for(int i=0;i<n;i++){
    for(int j=0;<m;j++){
        //时间复杂度为O(1)的程序步骤序列
    }
}

以上代码，时间复杂度为O(n*m)

for(int i=0;i<n;i++){
    for(int j=i;<m;j++){
        //时间复杂度为O(1)的程序步骤序列
    }
}

当i=0是，内循环执行了n次，当i=1时，内循环执行了n-1次，……，当i=n-1时，内循环执行了1次，所以总执行次数为
n+(n-1)+(n-2)+···+1 = $\frac{n^2}{2}$+$\frac{n}{2}$
最终得到这段代码的时间复杂度是O(n²)

void f(){
    for(int i=0;i<n;i++){
        function(i);
    }
}
void function(int i){
    System.out.println(i);
}

以上代码时间复杂度为O(n)

void f(){
    for(int i=0;i<n;i++){
        function(i);
    }
}
void function(int i){
    for(int j=i;j<n;j++){
        System.out.println(i);
    }
}

以上代码时间复杂度为O(n²)

算法空间复杂度

算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n)=O(f(n))，其中,n为问题的规模，f(n)为语句关于n所占存储空间的函数。