【数据结构与算法】算法的时间复杂度

算法的时间复杂度

度量一个程序（算法）执行时间的两种方法

1. 事后统计的方法

   这种方法可行，但是有两个问题：一是要想对设计的算法的运行性能进行评测，需要实际运行该程序；二是所得时间的统计量依赖于计算机的硬件、软件等因素，这种方式，要在同一台计算机的相同状态下运行，才能比较哪个算法速度更快。

2. 事前估算的方法

   通过分析某个算法的时间复杂度来判断哪个算法更优。

时间频度

时间频度：一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多，一个算法中的语句执行次数称为语句频度或时间频度，记为 T(n)。

举例说明：

比如计算 1 - 100 所有数字之和，我们设计两种算法：

int total = 0;
int end = 100;
// 使用 for 循环计算
for(int i = 1;i <= end;i++) {
    total += i;
}

T(n) = n + 1;

// 直接计算
total = (1 + end) * end / 2;

T(n) = 1;

忽略常数项

	T(n) = 2 * n + 20	T(n) = 2 * n	T(n) = 3 * n + 10	T(n) = 3 * n
1	22	2	13	3
2	24	4	16	6
5	30	10	25	15
8	36	16	34	24
15	50	30	55	45
30	80	60	100	90
100	220	200	310	300
300	620	600	910	900

结论：

1. 2 * n + 20 和 2 * n 随着 n 变大，执行曲线无限接近，20可以忽略
2. 3 * n + 10 和 3 * n 随着 n 变大，执行曲线无限接近，10可以忽略

忽略低次项

	T(n) = 2n^2 + 3n + 10	T(n) = 2n^2	T(n) = n^2 + 5n + 20	T(n) = n^2
1	15	2	26	1
2	24	8	34	4
5	75	50	70	25
8	162	128	124	64
15	505	450	320	225
30	1900	1800	1070	900
100	20310	20000	10520	10000

结论：

1. 2n^2 + 3n + 10 和 2n^2 随着 n 变大，执行曲线无限接近，3n + 10 可以忽略
2. n^2 + 5n + 20 和 n^2 随着 n 变大，执行曲线无限接近，5n + 20 可以忽略

忽略系数

	T(n) = 3n^2 + 2n	T(n) = 5n^2 + 7n	T(n) = 3n^3 + 5n	T(n) = 6n^3 + 4n
1	5	12	6	10
2	16	34	18	56
5	85	160	150	770
8	208	376	552	3104
15	705	1230	3450	20310
30	2760	4710	27150	162120
100	30200	50700	1000500	6000400

结论：

1. 随着 n 变大，5n^2 + 7n 和 3n^2 + 2n，执行曲线无限接近，说明这种情况下，5 和 3 可以忽略。
2. 而 n^3 + 5n 和 6n^3 + 4n，执行曲线分离，说明多少次方是关键。

时间复杂度

1. 一般情况下，算法中的基本操作语句的重复执行次数是问题规模 n 的某个函数，用 T(n) 表示，若有某个辅助函数 f(n)，使得当 n 趋近于无穷大时，T(n) / f(n) 的极限值为不等于零的常数，则称 f(n) 是 T(n) 的同数量级函数。记作 T(n) = O(f(n))，称 O(f(n)) 为算法的渐进时间复杂度，简称为时间复杂度。
2. T(n) 不同，但时间复杂度可能相同，如：T(n) = n^2 + 7n + 6 与 T(n) = 3n^2 + 2n + 2 他们的 T(n) 不同，但时间复杂度相同，都为 O(n^2)。
3. 计算时间复杂度的方法：
   1. 用常数 1 代替运行时间中的所有假发常数
   2. 修改后的运行次数函数中，只保留最高阶项
   3. 去除最高阶项的系数

平均时间复杂度和最坏时间复杂度

1. 平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下，该算法的运行时间。
2. 最坏情况下的时间复杂度称为最坏时间复杂度。一般讨论的时间复杂度均是最坏情况下的时间复杂度。这样做的原因是：最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限，这就保证了算法的运行时间不会比最坏情况更长。
3. 平均时间复杂度和最坏时间复杂度是否一致，和算法有关。

空间复杂度

1. 类似于时间复杂度的讨论，一个算法的空间复杂度定义为该算法所耗费的存储空间，他也是问题规模 n 的函数。
2. 空间复杂度是对一个算法在运行过程中临时占用存储空间大小的量度。有的算法需要占用的临时工作单元数与解决问题的规模 n 有关，它随着 n 的增大而增大，当 n 较大时，将占用较多的存储单元，例如快速排序和归并排序算法就属于这种情况。
3. 在做算法分析时，主要讨论的是时间复杂度。从用户使用体验上来看，更注重的程序的执行速度，一些缓存产品和算法本质上就是用空间换时间。