1.2 算法和算法评价

1.2 什么是算法

1. 算法：算法是对特定问题求解步骤的一种描述(自然语言/伪代码/具体代码)，它是指令的有限序列，其中的每条指令表示一个或多个操作

2. 算法特性：

   • 有穷性：一个算法必须在有穷步之后结束，且每一步都需在有穷时间内完成
   • 确定性：算法中每条指令必须有确切的含义，对于相同的输入只能得出相同的输出
   • 可行性：算法中描述的操作都可以通过已经实现的基本运算执行有限次来实现
   • 输入：一个算法有零个或多个输入，这些输入取自于某个特定对象的集合
   • 输出：一个算法有零个或多个输出，这些输出是与输入有某种特定关系的量

3. “好”算法应该达到的目标

   • 正确性：能够正确解决问题
   • 可读性：具有良好的可读性，以帮助人们理解
   • 健壮性：输入非法数据时，算法能够适当做出反应或进行处理，而不会产生莫名其妙的输出结果
   • 效率与低存储量需求：效率是指算法执行时间，存储量需求是指算法执行过程中所需要的最大存储空间，这两者与问题规模有关

算法是有穷的，程序可以是无穷的

1.4 算法效率的度量

1. 算法效率的度量是通过时间复杂度和空间复杂度来描述的

1.4.1 时间复杂度

1. 语句的频度：指该语句在算法中被重复执行的次数
2. 算法中所有语句的频度之和记为T(n)，它是算法问题规模n的函数，时间复杂度主要分析T(n)的数量级
3. 算法中的基本运算（最深层循环内的语句）的频度与T(n)同数量级，因此通常采用算法中基本的运算频度f(n)来分析算法的时间复杂度：T(n)=O(f(n))
   • O表示T(n)的数量级
   • O的数学定义是：若T(n)和f(n)是定义在正整数集合上的两个函数，则存在正常数$n_0$，使得当n>$n_0$时，都满足0<=T(n)<=Cf(n)
4. 最坏时间复杂度：最坏情况下
5. 平均时间复杂度：所有可能输入实例等概率出现的情况下
6. 最好时间复杂度：最好情况下
7. 两条规则：
   • 加法规则：T(n)=F(n)+G(n)=O(f(n))+O(g(n))=O( max(f(n), g(n)) )
   • 乘法规则：T(n)=F(n)*G(n)=O(f(n))*O(g(n))=O( f(n)*g(n) )

1.4.2 空间复杂度

1. 算法的空间复杂度S(n)：为该算法所耗费的存储空间，它是问题规模n的函数：S(n)=O(g(n))
2. 若输入数据所占用的空间只取决于问题本身，和算法无关，则只需要分析除输入数据和程序之外的额外空间（如常量，变量）
3. 算法原地工作：算法所需的辅助空间为常量，即O(1)

影响算法的运行时间的因素

机器性能

编程语言，越高级的语言执行效率越低

编译程序产生的机器指令的质量

有些算法无法等执行后再统计时间，如：导弹控制算法

因此算法的时间复杂度=事先预估算法的时间开销与问题规模n之间的关系