数据结构系列1——算法初识

算法

主要研究问题（核心）：时间与空间复杂度

使用大O记号（这个为最坏的情况，是算法的上界，忽略常数系数）
时间：基本操作次数（会变指令条数）
空间：占用内存字节数
区别：空间可以再利用
时间空间可以互换（Hash表）
常见时间复杂度分析方法：
1.输入输出——确定算法的下界
2.数循环次数——循环次数相乘，通过最内层循环优化
3.均摊分析——平均预估，多个操作，一起算时间复杂度
常见复杂度：
O(1) (不管执行多少次）
基本运算，＋，－，＊，／，%，寻址
O(logn)(分治类，一般以2为底）
二分查找
O(n1/2)
枚举约数
O(n)
线性查找
O(n2)
朴素最近点对、冒泡、选择排序
O(n3)
Floyd最短路
普通矩阵乘法
O(nlogn)
归并排序
快速排序的期望（均摊）复杂度
基于比较排序的算法下界
O(2n)
枚举全部的子集
O(n!)
枚举全排列
总结：
优秀 O(1) < O(logn) < O(n1/2) < O(n) < O(nlogn)
可能可以优化 O(n2) < O(n3) < O(2n) < O(n!) （n到底是多大！！一秒一亿条指令）

条件：

1. 有穷性（在有限的时间内结束）
2. 确定性（数值是确定的）
3. 可行性（算法可以是一段描述，也可以是一段代码，每一行都可行的）
4. 有输入与输出

应用：
机器学习、数据挖掘、自然语言处理、密码学、计算机图形学等

常用算法：

1. 穷举（万能算法）
2. 分而治之（减而治之 ）
   二分查找——减而治之
   归并排序——分而治之
3. 贪心法
   最小生成树
   单源最短路
4. 动态规划
   背包
   士兵路径

介绍三个算法：

1. 暴力枚举 O(n3)
2. 优化枚举 O(n2)
3. 贪心法 O(n)