1第一节、算法概述以及函数渐进的界

第一节、算法概述以及函数渐进的界

此系列博客为我在湖南大学上算法分析与设计时所记录，另外，笔者还学习了mooc网中北京大学屈婉玲老师的课程，对课堂内容进行了补充。此次是我第一次写博客，如有问题，还望大家批评指正。

问题求解的关键：

• 建模：对输入参数和解给出形式化或半形式化的描述
• 设计算法：采用什么算法设计
• 分析算法：算法效率

算法复杂度及NP-hard问题：

• 这样的问题有数千个，大量存在于各个应用领域
• 至今没有找到有效的算法：现有的算法的运行时间是输入规模的指数或更高阶的函数
• 至今没有人能够证明对于这类问题不存在多项式时间的算法
• 这些问题的难度处于可有效计算的边界

​ NP-hard问题的几个例子：货郎问题，0-1背包问题、双机调度问题等。

算法及其时间复杂度：

算法：

• 有限条指令的序列
• 这个指令序列确定了解决某个问题的一系列运算或操作

使用算法A解问题P：

• 把问题P的任何实例做为算法A的输入
• 每步计算是确定性的
• A能够在有限步停机
• 输出该实例的正确的解

算法时间复杂度：针对指定的基本运算，计数算法所做运算次数

基本运算：比较、加法、乘法、置指针，交换…

• 排序：元素之间的比较
• 检索：被检索元素x与数组元素的比较
• 整数乘法：每位数字相乘（位乘）1次，m位和n位整数相乘要做mn次位乘。
• 矩阵相乘：每对元素乘1次，i * j矩阵与j * k矩阵相乘要做ijk次乘法
• 图的遍历：置指针

输入规模：输入串编码长度（通常用下述参数度量：数组元素多少，调度问题的任务个数，图的顶点数与边数等。）

• 排序：数组中元素个数n
• 检索：被检索数组的元素个数n
• 整数乘法：两个整数的位数m，n
• 矩阵相乘：矩阵的行列数i，j，k
• 图的遍历：图的顶点数n，边数m

算法基本运算次数可表示为输入函数的函数

给定问题和基本运算就决定了一个算法类。

两种时间复杂度：

• 最坏情况下时间复杂度W（n）：算法求解输入规模为0的实例所需要的最长时间
• 平均情况下时间复杂度A（n）：在给定同样规模为n的输入实例的概率分布下，算法求解这些实例所需要的平均时间

A（n）计算公式，平均情况下的时间复杂度A（n），设S是规模为n的实例集，实例I属于S的概率为PI，算法对实例I执行的基本运算次数是tI，则：

函数渐近的界：

大O符号（函数上界）

定义：设f和g是定义域为自然数集N上的函数。若存在正数c和n0，使得对于一切n>=n0有

成立，则称f（n）的渐近上界是g（n），记作f（n）=O（g（n））

大W（欧米伽）符号（函数下界）

定义：设f和g是定义域为自然数集N上的函数。若存在正数c和n0，使得对一切n>=n0有

成立，则称f（n）的渐近的下界是g（n）

记作f（n）=W（g（n））

小o符号（类比于高数上确界）c需要满足任意正数条件

小w符号（类比于高数下确界）c需要满足任意正数条件

θ符号：同时满足大O与大W符号，即函数同阶。

有关函数渐近界的定理：

定理一（最常用）

一些重要的结果：

定理二（传递性）

定理三

基本函数：

对数函数及其性质：

指数函数与阶乘

Stirling公式的应用在课本007页1-5