算法基本原理

一、时间复杂度：
（1）常数时间的操作： 一个操作如果和数据量没有关系， 每次都是固定时间内完成的操作， 叫做常数操作。
（2）时间复杂度为一个算法流程中， 常数操作数量的指标。 常用O（读作big O） 来表示。 具体来说， 在常数操作数量的表达式中，只要高阶项， 不要低阶项， 也不要高阶项的系数， 剩下的部分如果记为f(N)， 那么时间复杂度为O(f(N))。
（3）评价一个算法流程的好坏， 先看时间复杂度的指标， 然后再分析不同数据样本下的实际运行时间， 也就是常数项时间。
一个简单的理解时间复杂度的例子：
一个有序数组A， 另一个无序数组B， 请打印B中的所有不在A中的数， A数组长度为N， B数组长度为M。
算法流程1： 对于数组B中的每一个数， 都在A中通过遍历的方式找一下；
时间复杂度为：O(M * N)
算法流程2： 对于数组B中的每一个数， 都在A中通过二分的方式找一下；
时间复杂度为：O(M * logN)
因为二分查找的时间复杂度为:O(logN)
算法流程3： 先把数组B排序， 然后用类似外排的方式打印所有在A中出现的数；
先排序: O(M∗log2M)O(M∗log2M)
比较: O(N+M)O(N+M)
故而时间复杂度为：O(M∗log2M)+O(N+M)
则可以得到：如果A数组长，B数组短，则算法3更好，因为此时N更大； 如果A数组短，B数组长，则算法2更好，因为此时N小，M大
二、空间复杂度：
空间复杂度(Space Complexity) 是对一个算法在运行过程中临时占用存储空间大小的量度，记做 S(n)=O(f(n)) ，其中n为问题的规模。利用算法的空间复杂度，可以对算法的运行所需要的内存空间有个预先估计。
一个算法执行时除了需要存储本身所使用的指令、常数、变量和输入数据外，还需要一些对数据进行操作的工作单元和存储一些计算所需的辅助空间。算法执行时所需的存储空间包括以下两部分。　　
（1）固定部分。这部分空间的大小与输入/输出的数据的个数、数值无关。主要包括指令空间（即代码空间）、数据空间（常量、简单变量）等所占的空间。这部分属于静态空间。
（2）可变空间，这部分空间的主要包括动态分配的空间，以及递归栈所需的空间等。这部分的空间大小与算法有关。
三、稳定性：
排序算法的稳定性，通俗地讲就是能保证排序前2个相等的数其在序列的前后位置顺序和排序后它们两个的前后位置顺序相同。在简单形式化一下，如果Ai = Aj, Ai原来在位置前，排序后Ai还是要在Aj位置前。

排序算法	平均时间复杂度	最差时间复杂度	空间复杂度	数据对象稳定性
冒泡排序	O(n2)	O(n2)	O(1)	稳定
选择排序	O(n2)	O(n2)	O(1)	数组不稳定、链表稳定
插入排序	O(n2)	O(n2)	O(1)	稳定
快速排序	O(n*log2n)	O(n2)	O(log2n)	不稳定
堆排序	O(n*log2n)	O(n*log2n)	O(1)	不稳定
归并排序	O(n*log2n)	O(n*log2n)	O(n)	稳定
希尔排序	O(n*log2n)	O(n2)	O(1)	不稳定
计数排序	O(n+m)	O(n+m)	O(n+m)	稳定
桶排序	O(n)	O(n)	O(m)	稳定
基数排序	O(k*n)	O(n2)		稳定

对于一个算法，其时间复杂度和空间复杂度往往是相互影响的。当追求一个较好的时间复杂度时，可能会使空间复杂度的性能变差，即可能导致占用较多的存储空间；反之，求一个较好的空间复杂度时，可能会使时间复杂度的性能变差，即可能导致占用较长的运行时间。另外，算法的所有性能之间都存在着或多或少的相互影响。因此，当设计一个算法(特别是大型算法)时，要综合考虑算法的各项性能，算法的使用频率，算法处理的数据量的大小，算法描述语言的特性，算法运行的机器系统环境等各方面因素，才能够设计出比较好的算法。