Advanced Algorithm 听课笔记（Introduction & Complexity Class）

0x00 前言

作为学术生涯的最后一门课，选了一门据说是最难的，上下来的感觉也确实是难得不行，不太懂……
决定照着ppt和上课的笔记整理一下，以此争取达到复习的目的。
（意思是有些虽然写出来了，但自己都不见得明白，有的部分存疑后续去询问之后再做修改）

Introduction of Randomized Algorithm

0x01 Big O notation

• $f(n)=O(g(n)):\le$
  • which means $\exists c,{\overline{lim}}_{n\to \infty }\frac{f(n)}{g(n)}\le c$, c is constant
• $f(n)=o(g(n)):<$
  • which means ${\overline{lim}}_{n\to \infty }\frac{f(n)}{g(n)}=0$
• $f(n)=\Omega (g(n)):\ge$
  • which means $g(n)=O(f(n))$
• $f(n)=\omega (g(n)):>$
  • which means $g(n)=o(f(n))$
• $f(n)=\Theta (g(n)):=$
  • which means $f(n)=O(g(n))$ and $f(n)=\Omega (g(n))$

0x02 QuickSort

Sorting Problem: Given a set S of n numbers, sort them into ascending order.

• Find random $y$ of set $S$; (O(1))
• Partition S ∖ { y } S \setminus \{y\} S∖{y} into two sets $S_1$ and $S_2$; (n)
• Recursively sort $S_1$ and $S_2$
• Time complexity: $O(nlogn)$ does not depend on input. It holds for every input.
  $$\begin{array}{rl}E(T(n))& =\frac{1}{n}\sum _{k=1}^n\left(E(T(n))|X_n=k\right)\\ & =\frac{1}{n}\sum _{k=1}^n\left(E(T(k-1))+E(T(n-k))+n-1|X_n=k\right)\\ & =\frac{1}{n}\sum _{k=1}^n\left(E(T(k-1))+E(T(n-k))+n-1\right)\\ \therefore E(T(n))& =\frac{1}{n}\sum _{k=1}^n\left(E(T(k-1))+E(T(n-k))+(n-1)\right)\end{array}$$

0x03 Comparison Probability

判断序列中的两个数在QuickSort中被比较过的概率

当第$i$个数字和第$j$个数字曾经被比较过，设 $X_{ij}=1$，反之为0。
有 $E(X_{ij})=P_{ij}$，从而有 $T(n)={\sum }_{1\le i<j\le n}{X}_{ij}$。
$$P_{12}=1,P_{1n}=\frac{2}{n},P_{ij}=\frac{2}{j-i+1}$$
$$E(T(n))=\sum _{1\le i<j\le n}{P}_{ij}$$

$$\sum _{1\le i<j\le n}\frac{1}{j-i+1}=2\sum _{1\le i\le n-1}\sum _{j=2}^{n-i+1}\frac{1}{j}\le 2(n-1)\sum _{j=2}^n\frac{1}{j}\approx 2(n-1)\cdot \ln n$$

其中可通过洛必达准则（忘记是不是这个名字了），计算出调和级数实际和 $y=\frac{1}{x}$ 相同
$$\frac{1}{2}+\frac{1}{3}+\cdots +\frac{1}{n}\le {\int }_1^n\frac{1}{x}=\ln n$$
$$1+\frac{1}{2}+\frac{1}{3}+\cdots +\frac{1}{n}\ge {\int }_1^n\frac{1}{x}=\ln n-\ln 1$$

于是我们可以得到 $E(T(n))=\Theta (n\ln n)$，
不过这个计算出来除了作为一道题而言，还有没有其它的用处呢？

0x04 Min-Cut

Min-Cut problem: Given a graph $G=(V,E)$ which is a connected, un-directed multi-graph, find a cut with minimum cardinality.

• Pick an edge uniformly at random;
• Merge the endpoints of this edge;
• Remove self-loops;
• Repeat steps 1-3 until there are only two vertices remain.
• The remaining edges form a candidate cut.

$$fixmincutC.|C|=k$$
$$Pr(E_1\wedge E_2\wedge \cdots \wedge E_{n-1}),E_i:\text{the i-th chosen edge is not in C}$$

$$\begin{array}{rl}Pr(E_1)& =\frac{|E|-k}{|E|}\le 1-\frac{2k}{nk}=1-\frac{2}{n}\\ |E|& \ge \frac{nk}{2}\\ \text{Notes: }Pr(E_2|E_1)& \ge 1-\frac{2}{n-1},\text{not}Pr(E_2)\ge 1-\frac{2}{n-1}\\ Pr(E_i|E_1,\cdots ,E_{i-1})& \ge 1-\frac{2}{n-i+1}\\ Pr(E_1\wedge E_2\wedge \cdots \wedge E_{n-2})& =Pr(E_1)\cdot Pr(E_2|E_1)\cdot Pr(E_3|E_1,E_2)\cdots \\ & \ge (1-\frac{2}{n})(1-\frac{2}{n-1})\cdots (1-\frac{2}{3})\\ & =(\frac{n-2}{n})\cdot (\frac{n-3}{n-1})\cdots \frac{2}{4}\cdot \frac{1}{3}\\ & =\Theta (\frac{1}{n^2})\end{array}$$

可得该随机算法的成功概率为：$Pr(E_i|E_1,\cdots ,E_{i-1})=\Omega (\frac{1}{n^2})$
于是我们可以重复 $n^2$ 次，从而使得这个随机算法成功概率提升至：
$$1-(1-\frac{1}{n^2}{)}^{n^2}\sim 1-\frac{1}{e}$$

0x05 FastCut

我们把FastCut的过程等效的看作一棵二叉树，其中每个节点都以一定的概率染成黑色或白色，
每一次生成子节点的过程，是将当前图的顶点数变为原来的 $c(c=\sqrt{2})$ 倍，
父节点到该节点过程中，缩图未影响最小切时，染为黑色，反之染为白色。
那么显然地，当且仅当存在一条从根到叶子节点的路径上，所有的点都为黑色时，说明当前算法成功的找到了最小切。
而对于一棵深度为 $h$ 的二叉树随机二染色，寻找存在从根到叶的黑色路径，成功概率为：
$${\rho }_h=1-(1-\frac{{\rho }_{h-1}}{2}{)}^2=\frac{{\rho }_{h-1}}{2}(2-\frac{{\rho }_{h-1}}{2})={\rho }_{h-1}-\frac{{\rho }_{h-1}^2}{4}$$

首先，设 $f(x)=x-\frac{x^2}{4}$，则有 $f^{\prime }(x)=1-\frac{x}{2}$，即在 [0,1] 中该函数单调递增，
通过数学归纳法可证得 ${\rho }_h\ge \frac{1}{h+1}$：
$$\begin{array}{rl}{\rho }_1& =1-(\frac{1}{2}{)}^2=\frac{3}{4}>\frac{1}{1+1}\\ {\rho }_h& =f({\rho }_{h-1})\ge f(\frac{1}{(h-1)+1})\\ & =\frac{1}{h}-\frac{1}{4h^2}\\ & \ge \frac{1}{h+1}\text{, for }h>1\end{array}$$
于是有：
$$Pr(h)=\frac{1}{h+1}\ge \frac{1}{3+{\log }_{\sqrt{2}}n}=\Omega (\frac{1}{\log n})$$

0xFF Prove in detail

Prove the expected running time for 0x02

设 $T(n)$ 表示快排 $n$ 个乱序数的执行时间，快排的每一步分为三个部分，
当第 $m$ 次取的 $pivot$ 为第 $k_m$ 大，以第一次为例，当第一次取的 $pivot$ 为 $k_1=k$ 时：

• 将其它数分别与 $pivot$ 比较大小： 共 $n-1$ 次操作
• 将比 $pivot$ 大的数都放到 $pivot$ 左边： 共 $k-1$ 次操作
• 将比 $pivot$ 小的数都放到 $pivot$ 右边： 共 $n-k$ 次操作

则有：
$$E(T(n))=\frac{1}{n}\sum _{k=1}^n\left(E(T(k-1))+E(T(n-k))+(n-1)|pivot=k\right)$$
由于选取 $pivot=k$ 与 $T(k)$ 间具有独立性，令 $f(n):=E(T(n))$，则有：
$$\begin{array}{rl}f(n)& =\frac{1}{n}\sum _{k_1=1}^n\left(f(k_1-1)+f(n-k_1)+(n-1)\right)\\ & =\frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}(f(k_2-1)+f(k_1-k_2)+(k_1-1))\right)\\ & +\frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{n-k_1}\sum _{k_3=k_1}^n(f(k_3-k_1)+f(n-k_3)+(n-k_1-1))\right)+\frac{1}{n}\sum _{k_1=1}^n\left(n-1\right)\\ & =\frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}(f(k_2-1)+f(k_1-k_2))+\frac{1}{n-k_1}\sum _{k_3=k_1}^n(f(k_3-k_1)+f(n-k_3))\right)\\ & +\frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}(k_1-1)+\frac{1}{n-k_1}\sum _{k_3=k_1}^n(n-k_1-1)+(n-1)\right)\end{array}$$

其中：
$$\begin{array}{rl}& \frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}(k_1-1)+\frac{1}{n-k_1}\sum _{k_3=k_1}^n(n-k_1-1)+(n-1)\right)\\ <& \frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}{k}_1+\frac{1}{n-k_1}\sum _{k_3=k_1}^n(n-k_1)+n\right)\\ =& \frac{1}{n}\sum _{k_1=1}^n\left(k_1+n-k_1+n\right)=\frac{1}{n}\sum _{k_1=1}^n\left(2n\right)=2n\end{array}$$

则有：
第 $1$ 轮取 $pivot$ 时 ( m ∈ { 1 } m \in \{1\} m∈{1}):
$$f(n)<\frac{1}{n}\sum _{k_1=1}^n\left(f(k_1-1)+f(n-k_1)+n\right)$$

第 $2$ 轮取 $pivot$ 时 ( m ∈ { 2 , 3 } m \in \{2,3\} m∈{2,3}):
$$f(n)<\frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}(f(k_2-1)+f(k_1-k_2))+\frac{1}{n-k_1}\sum _{k_3=k_1}^n(f(k_3-k_1)+f(n-k_3))\right)+2n$$

第 $ep$ 轮取 $pivot$ 时 ( m ∈ { m ∣ 2 e p − 1 ≤ m &lt; 2 e p } m \in \{m | 2^{ep-1} \le m &lt; 2^{ep}\} m∈{m∣2ep−1≤m<2ep}):
$$f(n)<\frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}\left(\frac{1}{k_2}\sum _{k_4=1}^{k_2-1}\left(\cdots \frac{1}{k_{2^{ep-1}}}\sum _{k_{2^{ep}}=1}^{2^{ep-1}-1}(f(k_{2^{ep-1}}-1)+f(k_{2^{ep-2}}-k_{2^{ep-1}}))+\cdots \right)\right)\right)+n\cdot ep$$
显然地，$ f(1)=1 $，在有限轮(不超过 $n$)之后，所有的 $f(\cdot )=f(1)=1$，
对于每一层的 ${\sum }_i^{j-1}$ 求和，其外侧的 $\frac{1}{j-i}$ 刚好与之抵消，此时:

$$\begin{array}{rl}f(n)& <\frac{1}{n}\sum _{k_1=1}^n\left(\frac{1}{k_1}\sum _{k_2=1}^{k_1-1}\left(\frac{1}{k_2}\sum _{k_4=1}^{k_2-1}\left(\cdots \frac{1}{k_{2^{p_1-1}}}\sum _{k_{2^{p_1}}=1}^{2^{p_1-1}-1}f(1)+\cdots \right)\right)\right)+n\cdot \max (p_i)\\ & =\sum ^{n}1+n\cdot \max (p_i)\end{array}$$

其中 $p_i$ 指的是 对于第 $i$ 大的数，取到其作为 pivot 是在第 $p_i$ 轮时，
并且当且仅当每次选取pivot都恰好取到当前数列的中位数时，构成层数最少的满二叉树，从而有：
$${\log }_{2}n\le p_i\le n$$

所以：
$$f(n)<n+n{\log }_{2}n$$
$$E(T(n))=O(n+n{\log }_{2}n)=O(n{\log }_{2}n)$$

Expansion problem for 0x04

Suppose that at each step of our min-cut algorithm, instead of choosing a random edge for contraction we choose two vertices at random and coalesce them into a single vertex. Show that there are inputs on which the probability that this modified algorithm finds a min-cut is exponentially small.

设在我们的最小切算法的每一步中，不是随机地选择一条边做收缩，而是随机地选择两个顶点并将他们结合成一个顶点。说明存在输入，使得这个改变后的算法找到最小切的概率是指数级小的。

令 $k^{\prime }$ 是最小切的规模：最小切的效果是将所有顶点分为两侧，即如果被最小切分在不同侧的两个顶点被结合，则本次找不到最小切，反之当最终结合成左右各剩下一个点时，这两个点之间即为最小切。
于是假设最小切将所有顶点分成了 $k$ 个点和 $n-k$ 个点的两侧，由于两侧的等效性，不妨设 $k>=n-k$，称较多点 ( $k$ 个点所在的一侧) 称作 $A$ 侧，另一侧为 $B$ 侧，则有：
$$1\le n-k\le \frac{n}{2}\le k<n,k<=k^{\prime }$$
定义 $S_i$ 表示在第 $i$ 次操作中没有选中了影响最小切的点对，则第一次"缩点"操作中，选中影响最小切的点对的概率为：
$$p(\neg S_1)=\frac{k\cdot (n-k)}{C_n^2}$$

则有：
$$\begin{array}{rl}p(S_1)& =1-\frac{k\cdot (n-k)}{C_n^2}=\frac{C_n^2-k\cdot (n-k)}{C_n^2}=\frac{C_k^2+C_{n-k}^2}{C_n^2}\\ & <\frac{C_{n/2}^2+C_{n/2}^2}{C_n^2}=\frac{2\cdot n^2}{4\cdot n^2}<\frac{1}{2}\end{array}$$

第二次"缩点"操作中，选中影响最小切的点对的概率，会受前一次结合的顶点处于 $A$ 侧或 $B$ 侧的影响：
$$\begin{array}{rl}p(S_2|S_1)& =p(S_2|S_1,A)\cdot p(S_1,A)+p(S_2|S_1,\neg A)\cdot p(S_1,\neg A)\\ & =\frac{(k-1)\cdot (n-k)}{C_{n-1}^2}\cdot \frac{C_k^2}{C_n^2}+\frac{k\cdot (n-k-1)}{C_{n-1}^2}\cdot \frac{C_{n-k}^2}{C_n^2}\\ & =\frac{k\cdot (n-k)\cdot (C_k^2+C_{n-k}^2)-C_{n-k}^1\cdot C_k^2-C_k^1\cdot C_{n-k}^2}{C_{n-1}^2\cdot C_n^2}\\ & =\frac{k\cdot (n-k)\cdot (C_k^2+C_{n-k}^2)-k\cdot (n-k)\cdot \frac{1}{2}((k-1)+(n-k-1))}{C_{n-1}^2\cdot C_n^2}\\ & =\frac{k\cdot (n-k)\cdot (C_k^2+C_{n-k}^2-n/2-1)}{C_{n-1}^2\cdot C_n^2}\\ & =\frac{k\cdot (n-k)\cdot (C_n^2-k\cdot (n-k)-n/2-1)}{C_{n-1}^2\cdot C_n^2}\end{array}$$

又因为：
$$1\le n-k\le \frac{n}{2}\le k<n$$
$$C_i^2=C_{i-1}^2\cdot \frac{i-2}{i}=C_{i-j}^2\cdot \prod _{k=1}^j\frac{i-k-1}{i-k+1}=C_{i-j}^2\cdot \frac{i-j-1}{i}$$

上式可得：
$$\begin{array}{rl}p(S_2|S_1)& <\frac{\frac{n}{2}\cdot \frac{n}{2}\cdot (C_{n/2}^2-\frac{n}{2}\cdot \frac{n}{2}-\frac{n}{2})}{C_n^2\cdot \frac{n-2}{n}\cdot C_n^2}\\ & =\frac{\frac{n^2}{4}\cdot (\frac{n^2}{2}-\frac{n^2}{4}-\frac{n}{2})}{C_n^2\cdot \frac{n-2}{n}\cdot C_n^2}\\ & =\frac{\frac{n^4}{16}-\frac{n^3}{8}}{\frac{n-2}{n}\cdot \frac{n^4}{4}}\\ & =\frac{(n-2)\cdot n^3}{4(n-2)\cdot n^3}\\ & =\frac{1}{4}\end{array}$$

第 $m$ 次"缩点"操作中，未选中影响最小切的点对的概率：
$$\begin{array}{rl}p(S_m|\bigcap _{i<m}{S}_i)& <\frac{{\sum }_{j=1}^m(({\prod }_{a=k-j}^k{C}_a^2)\cdot ({\prod }_{b=n-k-j}^{n-k}{C}_b^2)))}{(C_n^2{)}^m\cdot {\prod }_{c=1}^m\frac{C_{n-c}^2}{C_n^2}}\\ & <\frac{{\sum }_{j=1}^m\left((C_{n/2}^2{)}^j\cdot {\prod }_{a=1}^j\frac{C_{n/2-a}^2}{C_{n/2}^2}+(C_{n/2}^2{)}^{m-j}\cdot {\prod }_{b=1}^{m-j}\frac{C_{n/2-b}^2}{C_{n/2}^2}\right)}{\frac{n^{2m}}{2^m}\cdot {\prod }_{c=1}^m\frac{C_{n-c}^2}{C_n^2}}\\ & =\frac{O(n^{m+1})}{2^m\cdot O(n^{m+1})}\\ & =\frac{1}{2^m}\end{array}$$

特别地，第 $n-2$ 次缩点后，最终剩下两个顶点，此时剩下的两点之间即为所求，若每次缩点都没有破坏最小切，则此时的两个顶点间即为最小切，概率为 $O(2^{-(n-2)})$

Expansion problem for 0x05

Consider running the contraction algorithm until the number of vertices is reduced to $t$ and then using a cubic-time algorithm to find the min-cut in the contracted graph. Show that this process as many times as necessary to ensure a probability of success at least 1/2 leads to an algorithm with running time $\Omega (n^{8/3})$

考虑执行收缩算法直到顶点数目被降低到 $t$，然后用立方时间的算法在被收缩后的图中寻找最小切。证明执行上述过程足够多次以保证至少 1/2 的成功概率，算法需要运行时间 $\Omega (n^{8/3})$

对于一次成功的收缩，顶点数被降低到 $t$ 时，每条选中的边都未选中涉及最小切的边，此时的成功概率为：
$$p(n)=\prod _{i=t}^n(1-\frac{2}{i})=\frac{(t-1)(t-2)}{n\cdot (n-1)}$$
重复运行 $k$ 次的成功概率为：
$$P(n,k)=1-(1-p(n){)}^k=1-(1-\frac{t^2}{n^2}{)}^k$$
取 $k=\ln 2\cdot \frac{n^2}{t^2}$，此时：
$$\begin{array}{rl}P(n,\ln 2\cdot \frac{n^2}{t^2})& =1-(1-\frac{t^2}{n^2}{)}^{\ln 2\cdot \frac{n^2}{t^2}}\\ & =1-((1-\frac{t^2}{n^2}{)}^{\frac{n^2}{t^2}}{)}^{\ln 2})\\ & \ge 1-(\frac{1}{e}{)}^{\ln 2}\\ & =\frac{1}{2}\end{array}$$
单次运行的时间复杂度为：
$$\begin{array}{rl}T(n)& =\frac{C_1\cdot (n+t+1)\cdot (n-t)}{2}+C_2\cdot t^3\\ & =\frac{C_1}{2}(n^2+n-t^2-t)+C_2{t}^3\\ & =\frac{C_1}{2}(n^2+n)-\frac{C_1{t}^2}{2}-\frac{C_{1}t}{2}+C_2{t}^3\\ & \\ k\cdot T(n)& =\frac{\ln 2}{t^2}\cdot n^2\cdot (\frac{C_1}{2}(n^2+n)-\frac{C_1{t}^2}{2}-\frac{C_{1}t}{2}+C_2{t}^3)\\ \because n^2+n& >n^2>n^{\frac{2}{3}}\\ \therefore k\cdot T(n)& >\frac{\ln 2}{t^2}\cdot n^2\cdot (\frac{C_1}{2}{n}^{\frac{2}{3}}-\frac{C_1{t}^2}{2}-\frac{C_{1}t}{2}+C_2{t}^3)\\ & =\Omega (n^2\cdot n^{\frac{2}{3}})=\Omega (n^{\frac{8}{3}})\end{array}$$

Complexity Class

0x01 Las Vegas VS. Monte Carlo

Las Vegas algorithm

• 拉斯维加斯算法
• 具有随机的执行时间
• 一旦计算出来，得到的必然是正确结果
• 举例：快排 Quick Sort

Monte Carlo algorithm

• 蒙特卡罗算法
• 具有随机的结果质量
• 对于决策问题而言，可能出现单边或双边错误
• 有一定概率获得最优答案，通过多次重复可以获得一个可接受的获得最优解的概率
• 举例：随机最小割算法 randomized Min-cut algorithm

0x02 Denition

We only consider decision problem in this class.

Language

A language $L\subseteq {\Sigma }^{\ast }$ is any collection of strings over $\Sigma$.
Usually Σ = { 0 , 1 } \Sigma = \{0,1\} Σ={0,1} , and ${\Sigma }^{\ast }$ is the set of all possible strings over this alphabet.

P

$$L\in P\iff \exists \text{polynomial time algorithm }As.t.$$
$$\forall x\in {\Sigma }^{\ast },\{\begin{array}{l}x\in L\Rightarrow A(x)\text{ accepts}\\ x\notin L\Rightarrow A(x)\text{ rejects}\end{array}$$

NP

$$L\in NP\iff \exists \text{polynomial time algorithm }As.t.$$
$$\forall x\in {\Sigma }^{\ast },\{\begin{array}{l}x\in L\Rightarrow \exists y,|y|=poly(|x|),A(x,y)\text{ accepts}\\ x\notin L\Rightarrow \forall y,|y|=poly(|x|),A(x,y)\text{ rejects}\end{array}$$
co- N P = { L ‾   ∣   L ∈ N P } \text{co-}NP=\{\overline L ~|~ L \in NP \} co-NP={L ∣ L∈NP}

• NP-hard problem (informal denition): A is NP-hard
  $\iff$ if A is polynomial time solvable, all problems in NP are polynomial time solvable.
• NP-complete problem: if A is NP-hard and A 2NP.
• Famous NP-complete problems
  • 3-SAT
  • Vertex cover, Set cover
  • Clique, Independent set
  • Hamilton cycle, Traveling salesman problem
  • Integer programming

RP and co-RP

RP here is for Randomized Polynomial time

$$L\in RP\iff \exists \text{randomized algorithm }A\text{ running in worst-case polynomial time}s.t.$$
$$\forall x\in {\Sigma }^{\ast },\{\begin{array}{l}x\in L\Rightarrow Pr\left(A(x)\text{ accepts}\right)\ge 1/2\\ x\notin L\Rightarrow Pr\left(A(x)\text{ accepts}\right)=0\end{array}$$

$$L\in \text{co-}RP\iff \exists \text{randomized algorithm }A\text{ running in worst-case polynomial time}s.t.$$
$$\forall x\in {\Sigma }^{\ast },\{\begin{array}{l}x\in L\Rightarrow Pr\left(A(x)\text{ accepts}\right)=1\\ x\notin L\Rightarrow Pr\left(A(x)\text{ accepts}\right)\le 1/2\end{array}$$

What’s more, we have $RP\subseteq NP$ and $\text{co-}RP\subseteq \text{co-}NP$.

BPP and PP

BPP here is for Bounded-error Probabilistic Polynomial time
PP here is for Probabilistic Polynomial time

$$L\in BPP\iff \exists \text{randomized algorithm }A\text{ running in worst-case polynomial time}s.t.$$
$$\forall x\in {\Sigma }^{\ast },\{\begin{array}{l}x\in L\Rightarrow Pr\left(A(x)\text{ accepts}\right)\ge 3/4\\ x\notin L\Rightarrow Pr\left(A(x)\text{ accepts}\right)\le 1/4\end{array}$$

$$L\in PP\iff \exists \text{randomized algorithm }A\text{ running in worst-case polynomial time}s.t.$$
$$\forall x\in {\Sigma }^{\ast },\{\begin{array}{l}x\in L\Rightarrow Pr\left(A(x)\text{ accepts}\right)>1/2\\ x\notin L\Rightarrow Pr\left(A(x)\text{ accepts}\right)<1/2\end{array}$$

What’s more, we have $RP\subseteq BPP\subseteq PP$ and $NP\subseteq PP$.

ZPP

BPP here is for Zero-error Probabilistic Polynomial time
The class ZPP is the class of languages that have Las Vegas algorithms running in expected polynomial time.

$$ZPP=RP\cap \text{co-}RP$$

0xFF Prove in detail

RP $\subseteq$ NP

$$NP:\{\begin{array}{ll}x\in L\Rightarrow \exists y,|y|=poly(|x|),& A(x,y)\text{ accepts}\\ x\notin L\Rightarrow \forall y,|y|=poly(|x|),& A(x,y)\text{ rejects}\end{array}$$

$$RP:\{\begin{array}{l}x\in L\Rightarrow Pr\left(B(x)\text{ accepts}\right)\ge 1/2\\ x\notin L\Rightarrow Pr\left(B(x)\text{ accepts}\right)=0\end{array}$$

$$\forall L\in RP\Rightarrow B$$
在 $L\in NP$ 中构造 $A$，$y$ 为一个随机串，长度为 $r$，$|r|=poly(|x|)$
串中为1的个数较多则Accept，反之reject。

NP $\subseteq$ PP

(complete this section later)

ZPP = RP $\cap$ co-RP

(complete this section later)

PP = co-PP and BPP = co-BPP

$L\in PP$ 时，存在 $A(x)$ 符合如下定义：
$$\forall x\in {\Sigma }^{\ast }\{\begin{array}{l}x\in L\Rightarrow Pr(A(x)accepts)<\frac{1}{2}\\ x\notin L\Rightarrow Pr(A(x)accepts)>\frac{1}{2}\end{array}$$

则可以构造 B(x)，令：
$$B(x)=\{\begin{array}{l}accepts,\text{when }A(x)rejects\\ rejects,\text{when }A(x)accepts\end{array}$$

此时的 $B(x)$ 符合以下条件：
$$\forall x\in {\Sigma }^{\ast }\{\begin{array}{l}x\in L\Rightarrow Pr(B(x)accepts)>\frac{1}{2}\\ x\notin L\Rightarrow Pr(B(x)accepts)<\frac{1}{2}\end{array}$$

即 $L\in \text{co-}PP$，故 $\text{co-}PP\subseteq PP$，反之同理，$PP=\text{co-}PP$ 得证。

同理，当 $L\in BPP$ 时，存在 $A(x)$ 符合如下定义：
$$\forall x\in {\Sigma }^{\ast }\{\begin{array}{l}x\in L\Rightarrow Pr(A(x)accepts)\le \frac{1}{4}\\ x\notin L\Rightarrow Pr(A(x)accepts)\ge \frac{3}{4}\end{array}$$

则可以构造 B(x)，令：
$$B(x)=\{\begin{array}{l}accepts,\text{when }A(x)rejects\\ rejects,\text{when }A(x)accepts\end{array}$$

此时的 $B(x)$ 符合以下条件：
$$\forall x\in {\Sigma }^{\ast }\{\begin{array}{l}x\in L\Rightarrow Pr(B(x)accepts)\ge \frac{1}{4}\\ x\notin L\Rightarrow Pr(B(x)accepts)\le \frac{3}{4}\end{array}$$

即 $L\in \text{co-}BPP$，故 $\text{co-}BPP\subseteq BPP$，反之同理，$BPP=\text{co-}BPP$ 得证。