数据结构与算法 — 基本概念

一、时间复杂度、空间复杂度

时间复杂度

若存在函数 f(n)，使得当n趋近于无穷大时，T(n) / f(n)的极限值为不等于零的常数，则称 f(n)是T(n)的同数量级函数。
记作 T(n) = O( f(n))，称O( f(n))为算法的渐进时间复杂度，简称时间复杂度。
通俗的说：把程序执行的时间函数 T(n) 简化为一个数量级，这个数量级可以是 常数、n、n^2 、n^3等。
n为数据的规模，即数据量多少。

如何推导出时间复杂度呢？有如下几个原则：

1. 如果运行时间是常数项量级，用常数1表示；
2. 只保留时间函数中的最高阶项；
3. 如果最高阶项存在，则省去最高阶项前面的系数。

示例：

1. T(n) = 3n，最高阶项为3n，省去系数，转化的时间复杂度为：T(n) = O(n)
   
2. T(n) = 5logn，最高阶项为5logn，省去系数，转化的时间复杂度为：T(n) = O(logn)
   
3. T(n) = 2，常数项量级，转化的时间复杂度为：T(n) = O(1)
   
4. T(n) = 0.5n^2 + 0.5n，最高阶项为0.5n^2，省去系数0.5，转化的时间复杂度为：T(n) = O(n^2)

这4种时间复杂度排序，当n的取值足够大时：
O(1) < O(logn) < O(n) < O(n^2)

从左往右耗时逐渐增大。

空间复杂度

在时间复杂度相同的情况下，算法占用的内存空间的大小称之为空间复杂度。(space complexity)
S(n) = O(f(n))
占用的内存空间越大，空间复杂度也就越大。

常见的空间复杂度：

1、常量空间

即算法占用内存大小始终固定；

2、线性空间

当算法分配的空间是一个线性的集合（如数组），并且集合大小和输入规模n成正比时，空间复杂度记作O(n)。

3、二维空间

当算法分配的空间是一个二维数组集合时，并且集合的长度和宽度都与输入规模n成正比时，空间复杂度记作O(n^2)。

4、递归空间

递归函数。