算法分析与设计——复杂度记号

一、大 O 记号

	含义：o(g(n)) △= {f(x)| 存在c>0, n0 >= 0,当n >= n0时， 有 f(x) <= c * g(x)}
	

1、若 f(n) 属于 O（g(n)）, 则 f（x） 以 g(x) 为上界， 简称 f(x) = O（g(x)）
2、O(g(n)) 是所有满足定义条件的集合，可以用来描述某一个 f(x) 的算法时间复杂度，下面的符号同理
3、g(n) 所表示的复杂度一般是比 f(n) 高一级别 或者是 与 f(n)同一级别的

例子：
1) 2 * n ^ 2 = O(n ^ 2)
2) n ^ 3 / 1000 != O(n ^ 2)
	证明：
		假设相等，则存在 c > 0, n0 >= 0, 当 n > n0 时,有
			n * n * n / 1000 = c * n * n
		则有：
			n < 1000 * c
		这与 n > n0 矛盾，所以假设不成立
3) n != O(log n)	// 代表以 2 为底的对数
4) n ^ 2 != O(n log n)
	证明：
		假设相等，则存在 c > 0, n0 > 0, 当 n > n0 时,有
			n * n <= c * n * log n
		=>  n <= c * log n
		当 c 超级大的时候，随着 n 的增大, 总有一时刻, n 要大于 c , 于是 c 对于不等式的
		影响便变得微乎及微，相当于 n <= log n, 而从数学角度上看, 这是不对的

1、渐进分析：当 n 足够大的时候 f(x) 的渐进, 所以, 对于常数而言，总有一时刻 n 大于 c , 这之后 常数的
   影响便逐渐减小，因此，在算法复杂度考虑的时候，通常会忽略常数。

二、 大 Ω 记号

	含义：Ω（g（n）） △= {f(x) | 存在 c > 0, n0 >= 0, Ωn > no 是， 有 f(x) >= g(n)}

1、若 f(n) 属于 Ω（g(n)）, 则 f（x） 以 g(x) 为下界， 简称 f(x) = Ω（g(x)）
2、g(n) 一般是 比 f(n) 低一级别 或者是 与 f(n) 同一级别的

例子：
	1) 2 * n ^ 2 = Ω (n ^ 2)
	2) n ^ 2 = Ω (n * log n)

三、θ 记号

	含义：θ(g(n)) = O(g(n)) ∩ Ω(g(n)) △= {f(n) | 存在 c1 > 0, c2 > 0, n0 >= 0, 当 n >= n0 时， c1 g(n) <= f(n) <= c2g(n)}

1、若 f(n) 属于 θ（g(n)）,则 f(n) 与 g(n) 同级别，记为 f(n) = θ g(n)
2、g(n) 和 f(n) 一般是 同一级别的

	示例：
		100 n ^ 2 = Ω (n ^ 2) and 100 n ^ 2 = 小 o(n ^ 2) => 100 n ^ 2 = θ(n ^ 2)

四、小 o 记号

	 含义：o(g(n))△= {f(x)| 任意c>0, 存在n0 >= 0,当n >= n0时， 有 f(x) <= c * g(x)}

1、若 f(x) 属于 o(g(n))，则称 f(n) 以g(n) 作为 “严格上界”
   即 f(n) = o(g(n)) 且 f(n) != θ（g(n)） 记做 f(n) = o(g(n))
2、因为 c 是任意大于 0 的数，所以当条件成立的时候， c 可以取很小很小，
   所以要求 f(n) 在 c 很小很小的时候也能满足定义
3、g(n) 一般是 比 f(n) 高一级别的

五、小 Ω 记号

	含义：小Ω（g（n）） △= {f(x) | 任意 c > 0, 存在 n0 >= 0, Ωn > no 是， 有 f(x) >= g(n)}

1、若 f(x) 属于 小 Ω (g(n))，则称 f(n) 以g(n) 作为 “严格下界”
   即 f(n) = 小 Ω (g(n)) 且 f(n) != θ（g(n)） 记做 f(n) = 小 Ω (g(n))
2、因为 c 是任意大于 0 的数，所以当条件成立的时候， c 可以取很大很大，
   所以要求 f(n) 在 c 很大很大的时候也能满足定义
3、g(n) 一般是 比 f(n) 低一级别的

	这些概念是相对的，例如 
		f(x) = O(g(x)) <=> g(x) = Ω (f(x))
		f(x) = o(g(x)) => f(x) = O(g(x))
		f(x) = 小 Ω(g(x)) => f(x) = Ω(g(x))
	所以要注意灵活理解