学习笔记之算法相关概念

算法

算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

算法五个特性：输入、输出、有穷性、确定性和可行性。
在我平时工作中，为了解决某些问题所写的一段代码就是算法。

算法的五个特性

输入输出

算法有零个或多个输入，但是至少有一个输出。

有穷性

算法在执行有限的步骤之后，自动结束而不是出现无限循环，并且每一个步骤都在可接受的时间内完成。

确定性

算法的每一个步骤都具有确定的含义，不会出现二义性。

可行性

算法的每一步都必须可行的，也就是说，每一步都能够通过执行有限次数完成。

算法设计要求

要求被设计得算法具有以下特性：正确性、可读性、健壮性、时间效率高和存储量低。

算法效率度量方法

事后统计方法（不采用）

主要通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。

缺点1：算法要事先编好。
缺点2：环境和机器等影响时间的计算。
缺点3：数据量不同对同一算法影响较大。

事前分析估算方法

在计算机程序编制前，依据统计方法对算法进行估算。

事前估计因素主要有四种
1.算法采用的策略和方法
2.编译产生的代码质量
3.问题的输入规模
4.机器执行指令的速度
条件2需要软件来支持，条件4考虑的是硬件性能，所以算法运行时间主要依赖条件1和条件3，即算法的好坏和问题的输入规模。

函数的渐进增长

给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N，f(n)总比g(n)大，那么我们说f(n)的增长渐进快于g(n)。

可以忽略常数
与最高次项相乘的常数并不重要
最高次项指数大的，函数随着n的增长，结果也变得增长特别快
判断一个算法效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项（最高阶项）的阶数。

算法时间复杂度

在进行算法分析时，语句总的执行次数T(n)是关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间度量，记作：T(n)=O(f(n))。它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同。称作算法的渐进时间复杂度，简称为时间复杂度。其中f(n)是问题规模n的某个函数。

一般用大写的O() 来体现算法时间复杂度记法，称之为大O记法。
O(1)叫常数阶，O(n)叫线性阶，O(n2) logn 、线性阶O() > O(1)执行时间恒定

推导大O阶算法

1.用常数1取代运行时间中的所有加法常数。
2.在修改后的运行次数函数中，只保留最高阶项。
3.如果最高阶项存在且不是1，则去除与这个项相乘的常数。得到的结果就是大O阶。

常见的时间复杂度

常数阶O(1)、对数阶O(logn)、线性阶O(n)
平方阶、立方阶、nlogn阶、指数阶。

时间复杂度耗费时间从小到大
O(1)<O(logn)<O(n)<O(nlogn)<O(n2)<O(n3)
<O(2n)（2的n次方）<O(n!)<O(nn)（n的n次方）

最坏情况与平均情况

最坏情况

最坏情况运行时间是一种保证，是指运行时间将不会在坏了。在应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。

还有最坏时间复杂度和平均时间复杂度。

算法空间复杂度

算法空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n)=O(f(n))，其中n为问题规模，f(n)为语句关于n所占存储空间的函数。