算法基础复习

基础知识

• 常见排序算法

算法	$W(n)$	$A(n)$
插入	$n^2$	$n^2$
冒泡	$n^2$	$n^2$
快速	$n^2$	$O(n\log n)$
堆	$O(n\log n)$	$O(n\log n)$
二分归并	$O(n\log n)$	$O(n\log n)$

函数渐进的界

渐进上界：$$f(n)=O(g(n))\iff \exists c,n_0\in {\mathbb{N}}^{+},\forall n>n_0,0\le f(n)\le cg(n)$$

渐进下界：$$f(n)=\Omega (g(n))\iff \exists c,n_0\in N+,\forall n>n_0,0\le cg(n)\le f(n)$$

渐进紧确界：$$f(n)=\Theta (g(n))\iff f(n)=O(g(n))\text{当且仅当}f(n)=\Omega (g(n))$$

非渐进紧确上界：$$f(n)=o(g(n))\iff \forall c,\exists n_0\in {\mathbb{N}}^{+},\forall n>n_0,0\le f(n)<cg(n)$$

非渐进紧确下界：$$f(n)=\omega (g(n))\iff \forall c,\exists n_0\in {\mathbb{N}}^{+},\forall n>n_0,0\le cg(n)<f(n)$$

$$\log (n!)=\Theta (n\log n)n^{\frac{1}{\log n}}=O(1)$$

$$C_{n+m-1}^m=\frac{(n+m-1)!}{m!(n-1)!}=\Theta ((1+\epsilon {)}^{n+m-1})$$

$$\text{Stirling公式}n!=\sqrt{2\pi n}(\frac{n}{e}{)}^n(1+\Theta (\frac{1}{n}))$$
$$\sum _{k=1}^{n}1/k=\ln n+O(1)\sum _{t=1}^{k}t{2}^{t-1}=(k-1)2^k+1$$

主定理

$$T(n)=aT(n/b)+f(n)a\ge 1,b>1,T(n)\in \mathbb{N}$$

1. 若$f(n)=O(n^{{\log }_{b}a-\epsilon }),\epsilon >0,$那么$$T(n)=\Theta (n^{{\log }_{b}a})$$
2. 若$f(n)=\Theta (n^{{\log }_{b}a}),$那么$$T(n)=\Theta (n^{{\log }_{b}a}\log n)$$
3. 若$f(n)=\Omega (n^{{\log }_{b}a+\epsilon }),\epsilon >0,\exists c\in (0,1),\forall n>n_0，af(n/b)\le cf(n),$那么$$T(n)=\Theta (f(n))$$

多米诺性质

$$\neg P(x_1,x_2,\cdot \cdot \cdot ,x_k)\to \neg P(x_1,x_2,\cdot \cdot \cdot ,x_{k+1}),0<k<n$$

一般选择问题

• 问题：选第$k$小
• 输入：数组$S,S.length=n$
• 输出：第$k$小的数

$n=m(2r+1),|A|=|D|=\lfloor \frac{m}{2}\rfloor ,|B|=|C|=\lceil \frac{m}{2}\rceil r+\lfloor \frac{m}{2}\rfloor$

$r=\frac{n}{2m}-\frac{1}{2}$

剩余子问题规模至多为：
$$|A|+|B|+|D|=\frac{m+\lfloor \frac{m}{2}\rfloor }{2m}n-\frac{1}{2}\lceil \frac{m}{2}\rceil$$

$T(n)\le T(n/m)+T(\frac{m+\lfloor \frac{m}{2}\rfloor }{2m}n)+f(n)$

反证法

设 $n$ 为文件的总数，$f_i$​ 为文件$i$ 的被检索概率，$s_i$​ 为文件 $i$ 的存储空间大小。
贪心策略：按照比值$\frac{f}{s}$从大到小排序
平均检索时间
$$T_{\pi }=\sum _{i=1}^n(f_i\times \sum _{j=1}^i{s}_{\pi (i)}).$$
$\pi (i)表示排序\pi 中第i个位置的文件$

假设存在最佳排序${\pi }^{\ast },$该排序中至少存在一对文件${\pi }^{\ast }(i)\text{和}{\pi }^{\ast }(j)(i\ne j),$满足$f_{{\pi }^{\ast }(i)}/s_{{\pi }^{\ast }(i)}<f_{{\pi }^{\ast }(j)}/s_{{\pi }^{\ast }(j)}$且${\pi }^{\ast }(i)>{\pi }^{\ast }(j)$
另构造 π ′ , π ′ ( k ) = π ∗ ( k ) , k ∉ { i , j } , π ′ ( i ) = π ∗ ( j ) ， π ′ ( j ) = π ∗ ( i ) \pi',π'(k)=π^*(k),k\notin \{i,j\},π'(i)=π^∗(j)，π'(j)=π^∗(i) π′,π′(k)=π∗(k),k∈/{i,j},π′(i)=π∗(j)，π′(j)=π∗(i)
两种排序的平均检索时间只差
$$\begin{array}{rl}\Delta & =T_{{\pi }^{\prime }}-T_{{\pi }^{\ast }}\\ & =\sum _{k=1}^n(f_{{\pi }^{\prime }(k)}\times \sum _{w=1}^k{s}_{{\pi }^{\prime }(w)})-\sum _{k=1}^n(f_{{\pi }^{\ast }(k)}\times \sum _{w=1}^k{s}_{{\pi }^{\ast }(w)})\\ & =f_{{\pi }^{\prime }(i)}\times \sum _{w=1}^i{s}_{{\pi }^{\prime }(w)}+f_{{\pi }^{\prime }(j)}\times \sum _{w=1}^j{s}_{{\pi }^{\prime }(w)}-f_{{\pi }^{\ast }(i)}\times \sum _{w=1}^i{s}_{{\pi }^{\ast }(w)}-f_{{\pi }^{\ast }(j)}\times \sum _{w=1}^j{s}_{{\pi }^{\ast }(w)}\\ & =f_{{\pi }^{\prime }(j)}\times s_{{\pi }^{\prime }(i)}-f_{{\pi }^{\ast }(j)}\times s_{{\pi }^{\ast }(j)}\\ & =f_{{\pi }^{\ast }(i)}\times s_{{\pi }^{\ast }(j)}-f_{{\pi }^{\ast }(j)}\times s_{{\pi }^{\ast }(j)}\\ & <0\end{array}$$
由于$\Delta <0$，这说明:按照排序${\pi }^{\prime }$的平均检索时间小于按照排序 ${\pi }^{\ast }$的平均检索时间，这与 ${\pi }^{\ast }$ 是最优排序的假设矛盾。
即假设不成立，不存在一个最优排序不是按照 $f/s$​ 从大到小排序的。
所以，最优的贪心策略是按照$f/s$​ 从大到小排序。