算法设计与分析｜基础知识

基础知识

算法分析

我们先来求解一个排序问题：

输入： $n$个数的一个序列$⟨a_1,a_2,\cdots ,a_n⟩$。

输出： 输入序列的一个排列$⟨a_1^{\prime },a_2^{\prime },\cdots ,a_n^{\prime }⟩$，满足$a_1^{\prime }\le a_2^{\prime }\le \cdots a_n^{\prime }$。

插入排序的算法伪代码如下：

for $j=2$ to $j$.$length$

• $key=A$[$j$]
• // Insert $A$[$j$] into the sorted sequence $A$[$1..j-1$]
• $i=j-1$
• while $i>0$ and $A$[$i$]$>key$
  • $A[i+1]=A[i]$
  • $i=i-1$
• $A[i+1]=key$

为分析这个算法的时间代价，我们假定第$i$行所需的时间代价为$c_i$。我们首先给出这个过程中每条语句的执行时间和执行次数。其中，$t_j$表示对于特定的$j$执行while循环的次数。

伪代码	代价	次数
for $j=2$ to $j$.$length$	$c_1$	$n$
$key=A$[$j$]	$c_2$	$n-1$
// Insert $A$[$j$] into the sorted sequence $A$[$1..j-1$]	$0$	$n-1$
$i=j-1$	$c_4$	$n-1$
while $i>0$ and $A$[i]$>key$	$c_5$	${\sum }_{j=2}^n{t}_j$
$A[i+1]=A[i]$	$c_6$	${\sum }_{j=2}^n(t_j-1)$
$i=i-1$	$c_7$	${\sum }_{j=2}^n(t_j-1)$
$A[i+1]=key$	$c_8$	$n-1$

总运行时间$T(n)$为代价与次数之积求和，得：

$$T(n)=c_{1}n+c_2(n-1)+c_4(n-1)+c_5\sum _{j=2}^n{t}_j+c_6\sum _{j=2}^n(t_j-1)+c_7\sum _{j=2}^n(t_j-1)+c_8(n-1)$$

当输入的数组已排好序时，则出现最佳情况，此时$t_j=1$。从而

$$\begin{array}{rl}T(n)& =c_{1}n+c_2(n-1)+c_4(n-1)+c_5(n-1)+c_8(n-1)\\ & =(c_1+c_2+c_4+c_5+c_8)n-(c_2+c_4+c_5+c_8)\end{array}$$

可将该运行时间表示为$an+b$，因此，它是$n$的线性函数。

当输入的数组已反向排序时，则出现最坏情况。此时，$t_j=j$。利用以下公式：

$$\begin{gathered} \sum _{j=2}^{n}j=\frac{n(n+1)}{2}-1 \\ \sum _{j=2}^n(j-1)=\frac{n(n-1)}{2} \end{gathered}$$

可得

T ( n ) = c 1 n + c 2 ( n − 1 ) + c 4 ( n − 1 ) + c 5 ( n ( n + 1 ) 2 − 1 ) + c 6 ( n ( n − 1 ) 2 ) + c 7 ( n ( n − 1 ) 2 ) + c 8 ( n − 1 ) = ( c 5 + c 6 + c 7 2 ) n 2 + ( c 1 + c 2 + c 4 + c 5