算法学习四:算法性能分析理论基础——函数增长与渐进分析
在算法性能分析过程中,特别是在算法运行效率分析中,我们经常使用渐渐分析法,它使我们在分析算法性能时不必纠结于不同硬件平台的差异性,着重考虑算法的运行趋势。对于渐进分析的理论基础,了解过后才能真正明白这样做的可行性。首先需要掌握函数增长的渐进分析。
渐进的记号
Θ记号
之前在排序算法中知道插入排序的最坏情况下运行时间是
Θ(n2)
,现在我们可以解释这种记号的含义。
设有一个函数
f(n)
,用
Θ(g(n))
表示如下的集合:
Θ(g(n))
={
f(n)
:存在正常数
c1
,
c2
和
n0
,使对于所有的
n≥n0
,有
0<=c1g(n)≤f(n)≤c2g(n)
},则
f(n)
属于集合
Θ(g(n))
,记作:
在前面引入了Θ的概念,其效果相当于舍弃了低阶项和忽略了最高项的系数,下面证明
12n2−3n=Θ(n2) 。首先要确定常系数 c1 , c2 和 n0 ,使对于所有的 n≥n0 ,
化简得
右边的不等式在 c2≥12 的时候恒成立,同样,左边的不等式令 n≥7 ,则对于 c1≤114 成立。即证明了 12n2−3n=Θ(n2) 。
O记号
Θ记号渐进地给出了一个函数的上界和下界,而当一个函数只有渐进上界时,需要使用O记号。对于一个函数
g(n)
,用
O(g(n))
表示一个函数集合:
O(g(n))
={
f(n)
:存在正常数
c1
和
n0
,使对所有的
n≥n0
,有
0≤f(n)≤c1g(n)
}。
注意
f(n)=Θ(g(n))
隐含着
f(n)=O(g(n))
,因为Θ记号强于O记号,按集合论中的写法,有
Θ(g(n))∈O(g(n))
。
Ω记号
Ω记号渐进地给出了一个函数的渐进下界,对于一个函数
g(n)
,用
O(g(n))
表示一个函数集合:
Ω(g(n))
={
f(n)
:存在正常数
c1
和
n0
,使对所有的
n≥n0
,有
f(n)≥c1g(n)≥0
}。
注意
f(n)=Θ(g(n))
隐含着
f(n)=Ω(g(n))
,因为Θ记号强于Ω记号,按集合论中的写法,有
Θ(g(n))∈Ω(g(n))
。
祝枫
2016年9月10日于哈尔滨