数据结构第1章 绪论 1.2 算法和算法评价

返回目录？

数据结构 第1章 绪论 1.2 算法和算法评价

1.2.1 算法的基本概念

    算法（Algorithm）是对特定问题求解步骤的一种描述，它是指令的有限序列，其中的每条指令表示一个或多个操作。一个算法还具有下列5个重要特征：

• 有穷性。一个算法必须总在执行有穷步之后结束，且每一步都可在有穷时间内完成（其实就是$时间\ne \infty$）。
• 确定性。算法中每条指令必须有确切的含义，对于相同的输入只能得出相同的输出。（算法的最终结果应当是一定的）。
• 可行性。算法中描述的操作都可以通过已经实现的基本运算执行有限次来实现。（例如：设计一套计算$(1+1)\times 1=2$的算法就是不可行的，因为这明显并不能经过运算来得出）
• 输入。一个算法有零个或者多个输入，这些输入取自于某个特定对象的集合。
• 输出。一个算法有一个或者多个输出，这些输出是与输入有着某种特定关系的量。（没有输出也就不是算法了）

     通常，一个好的算法应该考虑达到以下目标：

• 正确性。算法能够正确地解决问题。
• 可读性。算法应该具有良好的可读性，以帮助人们理解。（使代码易于理解）
• 健壮性。发现非法输入能够做出合理的处理。（例如$\frac{a}{b}$应当考虑到$b=0$的情况）
• 效率与低存储需求。效率是指算法的执行时间，存储量需求是指算法执行过程中所需要的最大存储空间，这两者都与问题的规模有关。

1.2.2算法效率的量度

    我们以时间复杂度和空间复杂度来度量算法的效率。

1.时间复杂度

    一个语句的频度是指该语句在算法中被重复执行的次数。算法中所有语句的频度之和计为$T_{(n)}$，它是该算法规模$n$的函数，时间复杂度主要分析$T_{(n)}$的数量级。算法中基本运算（最深层循环体内的语句）的频度与$T_{(n)}$同数量级，因此通常采用算法中基本运算的频度$f_{(n)}$来分析算法的时间复杂度。因此，算法的时间复杂度记为$$T_{(n)}=O(f_{(n)})$$，其中$O$的含义是$T_{(n)}$的数量级，其严格的数学定义是：若$T_{(n)}$和$f_{(n)}$是定义在正整数集合上的两个函数，则存在正常数$C$和$n_0$，使得当$n\ge n_0$时，都满足$0\le T_{(n)}\le C{f}_{(n)}$。

个人理解：也就是说$T_{(n)}$其实是对时间的$C{f}_{(n)}的一种放缩$

牢记:$$0\le T_{(n)}\le C{f}_{(n)}$$
    算法的时间复杂度不仅仅取决于问题的规模$n$，也取决于待输入数据的性质（如输入数据元素的初始状态）。例如，在数组A[0……n-1]中，查找指定数值$k$的算法大致为：

(1) i = n - 1;
(2) while (i >= 0 && A[i] != k)
(3) i--;
(4) return i;

该语句(3)的频度不仅仅与问题的规模n有关，而且与实例中A的各个元素的取值以及k的取值也有关

• 当A中没有与k相等的元素，则语句(3)的频度$f_{(n)}=n$
• 如果A的最后一个元素等于k，则语句(3)的频度$f_{(n)}=0$

所以，引入了最坏时间复杂度，平均时间复杂度和最好时间复杂度的概念

• 最坏时间复杂度是指在最坏情况下，算法的时间复杂度。
• 平均时间复杂度是指所有可能输入实例在等概率出现的情况下， 算法的期望运行时间
• 最好时间复杂度是指在最好情况下，算法的时间复杂度。

一般总是在思考降低最坏时间复杂度，以保证算法运行的时间不会比它更长。
分析程序的两个法则：

• 加法法则
  $$T_{(n)}=T_{1(n)}+T_{2(n)}=O(f(n))+O(g(n))=O(max(f(n),g(n)))$$
• 乘法法则
  $$T_{(n)}=T_{1(n)}\times T_{2(n)}=O(f(n))\times O(g(n))=O(f(n)\times g(n))$$
  常见的渐进时间复杂度为
  $$O(1)<O(lo{g}_{2}n)<O(n)<O(nlo{g}_{2}n)<O(n^2)<O(n^3)<O(2^n)<O(n!)<O(n^n)$$

2.空间复杂度

    算法的空间复杂度$S(n)$定义为该算法所耗费的存储空间，它是问题规模$n$的函数。记为$$S(n)=O(g(n))$$
    一个程序在执行时除需要存储空间来存放本身所用的指令、常数、变量和输入数据外，还需要一些对数据进行操作的工作单元和 存储一些为实现计算所需信息的辅助空间。若输入数据所占空间只取决于问题本身，和算法无关， 则只需分析除输入和 程序之外的额外空间。
    算法原地工作是指算法所需的辅助空间为常量，即$O(1)$。