《大话数据结构》读书笔记--2.算法

算法定义

算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

算法特性

算法具有五个基本特性：输入、输出、有穷性、确定性和可行性。

• 输入输出：算法具有零个或多个输入，如打印“hello world！”这样的代码不需要任何输入参数。算法至少有一个或多个输出，算法是一定需要输出的，输出的形式可以是打印输出或返回值。
• 有穷性：指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。这里有穷的概念并不是纯数学意义的，而是在实际应用当中合理的、可以接受的“有边界”。
• 确定性：算法的每一步骤都具有确定的含义，不会出现二义性。相同输入对应唯一的输出结果，每个步骤被精确定义而无歧义。
• 可行性：算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。

算法设计的要求

正确性：算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性能正确反映问题的需求、能够得到问题的正确答案。大体分为以下四个层次。

• 算法程序没有语法错误。
• 算法程序对于合法的输入数据能够产生满足要求的输出结果。
• 算法程序对于非法的输入数据能够得出满足规格说明的结果。（一般以此为标准）
• 算法程序对于精心选择的，甚至刁难的测试数据都有满足要求的输出结果。（最困难）

可读性：算法设计的另一目的是为了便于阅读、理解和交流。可读性高有助于理解算法，易于调试和修改。
健壮性：当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。
时间效率高和存储量低：设计算法应该尽量满足时间效率高和存储量低的需求。

算法效率的度量方法

事后统计方法：这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。事后统计方法不予采纳需事先编制好程序、太过依赖计算机硬件和软件、测试数据设计困难且受测试规模限制，一般不予考虑。

事前分析估算方法：在计算机程序编制前，依据统计方法对算法进行估算。程序运行所消耗的时间取决于算法策略方法（算法好坏）、代码质量（软件支持）、输入规模（输入量的多少）、指令执行速度（硬件性能），除去软硬件因素运行时间最终依赖于算法的好坏和问题的输入规模。

函数的渐近增长：函数的渐近增长：给定两个函数f（n）和g（n），如果存在一个整数N，使得对于所有的n>N，f（n）总是比g（n）大，那么，我们说f（n）的增长渐近快于g（n）。

判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项（最高阶项）的阶数。

算法时间复杂度

算法时间复杂度定义
在进行算法分析时，语句总的执行次数T（n）是关于问题规模n的函数，进而分析T（n）随n的变化情况并确定T（n）的数量级。算法的时间复杂度，也就是算法的时间量度，记作：T（n）=O（f（n））。它表示随问题规模n的增大，算法执行时间的增长率和f（n）的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中f（n）是问题规模n的某个函数。

推导大O阶方法：用大写0（）来体现算法时间复杂度的记法，称之为大0记法，推导大0阶的方法如下：

• 用常数1取代运行时间中的所有加法常数。
• 在修改后的运行次数函数中，只保留最高阶项。
• 如果最高阶项存在且不是1，则去除与这个项相乘的常数。
• 得到的结果就是大O阶。

常见的时间复杂度

常见的时间复杂度如表：

执行次数函数	阶	非正式术语
12	O（1）	常数阶
2n+3	O（n）	线性阶
3n²+2n+1	O（n²）	平方阶
5log₂ n+20	O（logn）	对数阶
2n+3nlog₂ n+19	O（nlogn）	nlogn阶
6n³+2n²+3n+4	O（n³）	立方阶
2"	O（2"）	指数阶

所耗费的时间从小到大依次是（一般时间复杂度大于O（n²）的算法不考虑）：
O（1）<O（logn）<O（n）<O（nlogn）<O（n²）<O（n³）<O（2"）<O（n!）<O（n”）

最坏情况与平均情况

最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。这是一种最重要的需求，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。
平均运行时间是所有情况中最有意义的，因为它是期望的运行时间，但很难通过分析得到。一般在没有特殊说明的情况下，都是指最坏时间复杂度。

算法空间复杂度

在写代码时，我们完全可以用空间来换取时间。
算法的空间复杂度：算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S（n）=0（f（n）），其中，n为问题的规模，f（n）为语句关于n所占存储空间的函数。

总结：时间复杂度与空间复杂度的关系

• 时间复杂度与空间复杂度没有必然联系，但是可以以空间换时间或时间换空间。
• 时间复杂度：T（n）=O（f（n）），n为问题的规模，f（n）为语句关于n执行所费时间的函数。
• 空间复杂度：S（n）=O（f（n）），n为问题的规模，f（n）为语句关于n所占存储空间的函数。
• 时间复杂度、空间复杂度都是用推导大O阶方法推导出来的。