北邮2022-23学年第一学期算法设计与分析复习（一）——算法复杂性

• 算法复杂性的概念
• 用特征方程解递归方程的通解

一、算法复杂性的概念

1、衡量算法优劣的指标

在探讨算法复杂性之前了解一下如何评价一个算法的优劣。衡量算法优劣的指标主要如下：

• 正确性
• 健壮性
• 可读性
• 简单性
• 复杂性（包括时间和空间）
  由于期末考试不涉及其他四个性质的考核，因此只对算法复杂性做说明。

2、算法的复杂性

算法复杂性=算法运行所需要的计算机资源的量。
$$C=F(N,I,A)$$
其中C表示算法复杂性，N表示算法要解决的问题规模，I表示算法输入，A表示应用的算法。
算法需要的时间资源为时间复杂性，空间（存储器）的量为空间复杂性。由于不在考点内，不再赘述。

3、渐进符号

该部分主要考察渐进符号以及相关定义的证明，

• 定义1-O： 如果存在正整数$c$和$n_0$使得对于任意正整数$n\ge n_0$都有$T(n)\le cf(n)$, 则称$f(n)$为$T(n)$的渐进上界，记作$T(n)=O(f(n))$。
• 定义2 $\Omega$： 如果存在正整数$c$和$n_0$使得对于任意正整数$n\ge n_0$都有$T(n)\ge cf(n)$, 则称$f(n)$为$T(n)$的渐进下界，记作$T(n)=\Omega (f(n))$。
• 定义3 $\Theta$ : 当$T(n)=O(f(n))$且$T(n)=\Omega (f(n))$时记作$T(n)=\Theta (f(n))$，通常情况下证明过程中选择的 $c$是相同的，但是根据实际情况一般会有不同的$n_0$。
• 定义4-o： 如果存在正整数$c$和$n_0$使得对于任意正整数$n\ge n_0$都有$T(n)<cf(n)$, 则称$f(n)$为$T(n)$的渐进上界，记作$T(n)=o(f(n))$。
• 定义5 $\omega$： 如果存在正整数$c$和$n_0$使得对于任意正整数$n\ge n_0$都有$T(n)>cf(n)$, 则称$f(n)$为$T(n)$的渐进下界，记作$T(n)=\omega (f(n))$。

---

例如2022-2023学年第一学期的考题中的第一题: 给出渐进上界$O$的定义，并证明：$3n^2+4n=O(n^2)$。

---

二、用特征方程解递归方程的通解

1、K阶程序书线性齐次递归方程

K阶程序书线性齐次递归方程是指给定$K+1$项之间的递推关系和前K项值的递归方程。形式如下，其中 $b_i$ 为常数。
$$\{\begin{array}{l}f(n)=a_{1}f(n-1)+a_{2}f(n-2)+...+a_{k}f(n-k)\\ f(0)=b_0\\ f(1)=b_1\\ ...\\ f(k)=b_k\end{array}$$
在上式中用$x^n$取代$f(n)$并两边同时除以$x^k$ 即可得到一元 $k$ 次方程
$$x^k=a_1{x}^{k-1}+a_2{x}^{k-2}+...+a_k$$
对于上述一元 $k$ 次方程，应有 $k$ 个解$x_1,x_2,...,x_k$，对这些解作如下讨论：

• 如果$k$个解各不相同，即对于所有不相等的 $i,j$ ,都有$x_i\ne x_j$，由此可得递推方程的通解如下。
  $$f(n)=c_1{x}_1^n+c_2{x}_2^n+...+c_k{x}_k^n$$
• 如果在这些解中存在$x_i=x_{i+1}=...=x_{i+j}=...=x_{i+m}(1\le j\le m)$,即有$m$个解是相同的，则在上式中将等号右边的对应项替换成$c_{i+j}{n}^j{x}_j^n$。将上式改写为
  $$f(n)=c_1{x}_1^n+...+(c_i+c_{i+j}{n}^j+...+c_{i+m}{n}^m)x^n+...+c_k{x}_k^n$$
  如果有多组相同解则都按照同样的方法替换
  由待定系数将通式代入
  $$\begin{gathered} f(0)=b_0 \\ f(1)=b_1 \\ ... \\ f(k)=b_k \end{gathered}$$
  解方程组即可得到所有系数。

2、k阶常系数线性非齐次递归方程组

k阶常系数线性非齐次递归方程组是指形式如下的方程组：
$$\{\begin{array}{l}f(n)=a_{1}f(n-1)+a_{2}f(n-2)+...+a_{k}f(n-k)+g(n)\\ f(0)=b_0\\ f(1)=b_1\\ ...\\ f(k)=b_k\end{array}$$
其通解形式为$f(n)=\overline{f(n)}+f^{\ast }(n)$,其中

• $\overline{f(n)}$ 为对应齐次递归方程的通解
• $f^{\ast }(n)$为原非齐次递归方程的特解
  对于特解 $f^{\ast }(n)$分以下两种情况

（1）当g(n)为n的m次多项式

假如在方程中的g(n)形如$$g(n)=b_1{n}^m+b_2{n}^{m-1}+...+b_{m}n+b_{m+1}$$
此时特解也是n的m次多项式，形如
$$f^{\ast }(n)=A_1{n}^m+A_2{n}^{m-1}+...+A_{m}n+A_{m+1}$$
其中$A_i（1\le i\le m+1）$为待定的常系数。将此表达式代入原递归方程及初始条件即可解得特解。再将该特解与待定系数的通解合并并代入初始条件则可解得非齐次方程组的通解。

（2）当g(n)含有指数函数时

假如在方程中的g(n)形如$$g(n)=（b_1{n}^m+b_2{n}^{m-1}+...+b_{m}n+b_{m+1}）a^n$$
其中$a$和$b_i$都为常数，此时根据a的值分类讨论：

• 假如a不是特征方程的重根，特解形式与$g(n)$相同,即假设待定系数的表达式$$f^{\ast }(n)=（A_1{n}^m+A_2{n}^{m-1}+...+A_{m}n+A_{m+1}）a^n$$
• 假如a是特征方程的 $r$ 重特征根，特解形式如下$$f^{\ast }(n)=（A_1{n}^m+A_2{n}^{m-1}+...+A_{m}n+A_{m+1}）n^r{a}^n$$

关于算法设计与分析第一章复杂度和特征方程求解就介绍到这里。