三、算法与算法分析

1、算法定义

\qquad 对特定问题求解方法和步骤的一种描述，它是指令的有限序列。其中，每个指令表示一个或者多个操作。
\qquad 算法的描述可以使用自然语言，英语、中文等；

\qquad 可以使用流程图，传统流程图，NS流程图等。

\qquad 可以使用伪代码，类语言，i.e., 类C语言。
\qquad 还可以直接使用程序代码，如C语言程序，JAVA语言程序… …
\qquad 算法发是解决问题的一种方法或者说一个过程，考虑如何将输入转换成输出，一个问题可以有多种算法。程序使用某种程序设计语言对算法的具体实现。

2、算法特性

\qquad 又穷性： 一个算法必须总是在执行又穷步之后结束，且每一步都在又穷时间内完成；
\qquad 确定性： 算法中的每一条指令必须由确切的含义，没有二义性，在任何条件下，只有唯一的一条执行路径，即对于想同的输入，只能得到想同的输出；
\qquad 可行性： 算法是可执行的，算法描述的操作可以通过已经实现的基本操作执行有限次来实现；
\qquad 输入： 一个算法有零个或者多个输入；
\qquad 输出： 一个算法有一个或者多个输出。

2.1 算法设计的要求

\qquad 正确性-Correctness： 算法满足问题要求，能正确解决问题，算法转化为程序后要注意：程序中不含语法错误；程序对于几组输入数据能够得出满足要求的结果；程序对于精心选择的，典型的，具有刁难性的几组数据能得到满足要求的结果；程序对于一切合法的数据都能得出满足要求的结果；
\qquad 可读性-Readability： 算法主要是为了人的阅读和交流，其次才是未来计算机执行，因此算法发应该易于人理解；另一方面，晦涩难读的算法易于隐藏较多错误而难以调试。
\qquad 健壮性-Robustness： 指当输入非法数据时，算法恰当地做出反映或者进行相应处理，而不是产生莫名其妙的输出结果；处理出错的方法，不应是中断程序的执行，而应该返回一个表示错误或者错误性质的值，以便在更高的抽象层次上进行处理。
\qquad 高效性-Efficiency： 要求花费尽量少的时间和尽量低的存储要求。
\qquad 一个好的算法首先要具备正确性，然后是健壮性，可读性，在几个方面都满足的条件下，主要考虑算法的效率，通难过算法的效率高低来评判不同算法的优劣程度。算法效率由以下两个方面来考虑：
\qquad 时间效率，指的是算法所耗费的时间；
\qquad 空间效率，指的是算法执行难过程中所耗费的存储空间。

2.2 算法时间效率的度量

\qquad 算法的时间效率可以用依据该算法编制的程序在计算机上执行所消耗的时间来度量，主要有以下两种度量方法：
\qquad 事后统计法：将算法实现，测算其时间和空间开销；这种方法的缺点很明显，编写程序需要花费时间和精力；同时所得到的实验结果依赖于计算机软硬件的条件，会掩盖算法本身的优劣。
\qquad 事前估计法：对算法所消耗资源的一种估算方法。一个算法的运行时间是指一个算法在计算机上运行所耗费的时间大致可以等于计算机执行一种简单的操作(如赋值，比较，移动等)所需要的时间，与算法中进行的简单操作次数的乘积。
$$\begin{gathered} 算法运行时间=一个简单操作所需的时间\times 简单操作次数 \\ 算法运行时间=\sum 每条语句频度\times 该语句执行一次所需要的时间 \end{gathered}$$ \qquad 每条语句执行一次所需要的时间，随机器而异。取决于机器的指令性能，速度以及编译代码的质量。是由及其本身软硬件环境决定的，与算法无关。所以，可以假设执行每条语句的时间均为单位时间，在讨论算法运行时间时不予考虑。
\qquad 为了便于比较不同算法的时间效率，我们仅比较他们的数量级，数量级越大，算法复杂度越高。

\qquad 若有某个函数$f(n)$，使得当$n$趋于无穷大时，$T(n)/f(n)$的极限值为不等于零的常数，则称$f(n)$是$T(n)$的同数量级函数。记作$T(n)=O(f(n))$，称$O(f(n))$为算法的渐进时间复杂度(O(order)是数量级的符号)，简称时间复杂度。
\qquad 一般情况下，不必计算所有操作的执行次数，而只需要考虑算法中的基本操作执行的次数，它是问题规模$n$的某个函数，用$T(n)$表示。算法中基本语句重复执行的次数是问题规模n的某个函数$f(n)$，算法的时间度量记作$T(n)=O(f(n))$。它表示随着n的增大，算法执行时间的增长率和$f(n)$的增长率相同，称为渐进时间复杂度。基本语句指的是算法中执行次数最多的那条语句。

2.2.1 分析算法时间复杂度的基本方法

\qquad (1) 找出语句频度最大的那条语句作为基本语句；(2) 计算基本语句的姘居得到问题规模n的某个函数$f(n)$；(3) 取其数量级用符号$O$表示。时间复杂度是由嵌套层次最深语句的频度决定的。

\qquad 对于较为复杂的计算，可以采用级数来辅助计算算法的时间复杂度，如下图所示。


\qquad 有的情况下，算法中的基本操作重复执行的次数还随着问题的输入数据集的不同而不同。

\qquad 最坏时间复杂度： 指在最坏情况下，算法的时间复杂度；
\qquad 平均时间复杂度： 指在所有可能输入实例再等概率出现的情况下，算法的期望运行时间；
\qquad 最好时间复杂度： 指在最好情况下，算法的时间复杂度。
\qquad 一般总是考虑在最坏情况下的时间复杂度，以保证算法的运行时间不会比它更长。

2.2.2 复杂算法的时间复杂度

\qquad 对于复杂的算法，可以将它分成几个容易估算的部分，然后利用 $O$ 加法法则和乘法法则，计算算法的时间复杂度。
\qquad a) 加法规则
$$T(n)=T1(n)+T2(n)=O(f(n))+O(g(n))=O(max(f(n),g(n)))$$
\qquad b) 乘法规则
$$T(n)=T1(n)\times T2(n)=O(f(n))\times O(g(n))=O(f(n)\times g(n))$$

2.2.3 算法时间效率的比较

\qquad 当n取值很大时，指数时间算法和多项式时间算法在所需的时间上非常悬殊。

2.3 算法空间效率的度量

\qquad 使用渐进空间复杂度来衡量算法的空间效率。算法的空间复杂度是算法所需存储空间的度量，记作：$$s(n)=O(f(n))$$ \qquad 其中，n为问题的规模。
\qquad 算法要占据的空间包括：算法本身要占据的空间，包括算法的输入输出，指令，常数和变量等；算法要使用的辅助空间。

THE END