计算复杂性理论

参考：

1. OI Wiki - 计算理论基础
2. 各种复杂度类的记号与解释
3. 7个复杂度类及它们的关系

问题

字母表（alphabet）：有限非空集合$\Sigma$，其中的元素被称为符号（symbol）

语言（language）：字母表中元素组成的串的子集，$L\in {\Sigma }^{\ast }$；任何语言都可以转化为比特串，一般令 Σ = { 0 , 1 } \Sigma=\{0,1\} Σ={0,1}

判定问题：判定一个串$x$是否属于一个语言$L$，只能回答Yes/No。 f : Σ ∗ → { 0 , 1 } f:\Sigma^* \rightarrow \{0,1\} f:Σ∗→{0,1}

功能性问题：回答不止Yes/No，可以是其他对象。$f:{\Sigma }^{\ast }\to {\Sigma }^{\ast }$

判定问题和功能性问题可以相互转化。如：判定两数之和是否等于第三个数可以转化为计算指示函数；计算两数之和可以转化为判定两数之和是否等于第三个数。

图灵机

（标准）图灵机：在一条双向无限延伸的磁带（tap）上操作的机器，拥有内部状态，还有可在磁带上读写移动的磁针。描述为七元组$M=(Q,\Gamma ,b,\Sigma ,\delta ,q_0,F)$，

1. $Q$：有限非空的状态集合
2. $\Gamma$：有限非空的磁带字母表
3. $b\in \Gamma$：空字符，唯一可以在磁带上无限频繁出现的字符
4. Σ ⊆ Γ \ { b } \Sigma \subseteq \Gamma \backslash \{b\} Σ⊆Γ\{b}：输入字母表，可以出现在输入带的符号
5. $q_0\in Q$：初始状态
6. $F\subseteq Q$：接受状态集合。如果图灵机在某接受状态停机，则称输入带上的内容被这个图灵机接受。
7. δ : ( Q \ F ) × Γ ↛ Q × Γ × { L , R } \delta:(Q \backslash F) \times \Gamma \not \rightarrow Q \times \Gamma \times \{L,R\} δ:(Q\F)×Γ→Q×Γ×{L,R}：转移函数，一个只对定义域子集有定义的partial function，若当前状态无定义则停机。
8. { L , R } \{L,R\} {L,R}：磁针左右移动
9. $\delta (x,y)=(a,b,c)$：内部状态$x$，磁针位置的字符$y$，图灵机将内部状态修改为$a$，将磁针位置的字符修改为$b$，并将磁针左右移动。

多带图灵机：具有（有限的）$k$条磁带的图灵机，第一条磁带是只读输入带， 其他的$k-1$条纸带是读写工作带，其中一条用作输出带。

图灵机的输出：输入为$x$时的输出记为$M(x)$，$M(x)=1$当仅当$M$接受$x$，$M(x)=0$当仅当$M$不接受$x$且可以在有限步停机。

确定性图灵机：每一步只能转移到一个状态，只能串行计算。

非确定性图灵机：每一步可以同时转移到多个状态，可以无限并行计算。如果某个分支在接受状态停机，那么图灵机停机并接受输入；如果在所有分支在拒绝状态停机，那么图灵机停机并拒绝输入。

任何确定性图灵机，都可以用类似于迭代加深度优先搜索的方式，在指数级时间内模拟一台非确定性图灵机多项式时间内的行为。

编码：存在满射函数$f:N\to M$，任意自然数都对应一个图灵机，每个图灵机都有无数个编码。由自然数$\alpha$编码的图灵机记做$M_{\alpha }$

通用图灵机：存在图灵机$U$，对于任意 x ∈ { 0 , 1 } ∗ x\in\{0,1\}^* x∈{0,1}∗，若图灵机$M_{\alpha }$在$T(|X|)$时间内停机，那么$U(x,\alpha )$在$O(T(|x|)\log T(|x|))$时间内停机，且$U(x,\alpha )=M_{\alpha }(x)$；否则，$U(x,\alpha )$也不会在有限时间内停机。

简单地说，存在一台通用图灵机，它能模拟任何一台图灵机，且花费的时间只会比这台被模拟的图灵机慢其运行时间的对数倍。

图灵不可计算：一个判定问题，如果存在一个总是有限步停机且能够正确判定的图灵机，那么这个问题是图灵可计算的，否则是图灵不可计算的。

由于图灵机有可数无穷个，语言有不可数无穷个，并且一个图灵机最多判定一个语言，因此存在可数无穷个图灵可计算问题以及不可数无穷个图灵不可计算问题。

图灵停机问题：给定$\alpha ,x$，判断$M_{\alpha }$对于输入$x$是否会有限步内停机。这是经典的图灵不可计算问题。

丘奇-图灵论题（The Church-Turing thesis）：数学和逻辑学中所有的有效运算方法（有限条清晰的有限长指令、可在有限步内结束且得到正确结果）均可以用一台图灵机来表示和演算。这是一个假设，也是计算理论的一条基本公理。

复杂度类

多项式时间：如果存在$k>0$，使得算法的时间复杂度为$O(n^k)$，那么说算法是多项式时间的。多项式时间可分为强多项式时间和弱多项式时间，除此之外还有伪多项式时间。

归约：对于问题$A$和问题$B$，如果存在一个可计算函数$f$，使得对于问题$A$的任意实例$x$，都有$A(x)=B(f(x))$，我们称问题$A$可以归约到问题$B$，记做$A\le B$，即问题$B$不比问题$A$容易。

$R$类：语言$L$，图灵机$M$，如果$M$对于任意输入都能有限步停机，且$M(x)=1⟺x\in L$，那么说$M$能判定$L$。$R$类是所有可以被某台图灵机判定的语言的集合，即所有图灵可计算的语言。

$RE$类：语言$L$，图灵机$M$，如果$M$对于任意属于$L$的输入都能有限步停机，且$M(x)=1⟺x\in L$，那么说$M$能识别$L$。$RE$类是所有可以被某台图灵机识别的语言的集合，也被称作递归可枚举语言。易知$R\subseteq RE$

$DTIME$类：语言$L$，如果存在确定性图灵机$M$可以判定$L$，且对于任意输入$x$它在$O(f(|x|))$时间内停机，那么$L\in DTIME(f(|x|))$

$P$类：可以由确定性图灵机在多项式时间内解决的判定问题，即$P={\cup }_{k\in N}DTIME(n^k)$

$EXPTIME$类：可以由确定性图灵机在指数级时间内解决的判定问题，即$EXPTIME={\cup }_{k\in N}DTIME(2^{n^k})$

$NTIME$类：语言$L$，如果存在非确定性图灵机$M$可以判定$L$，且对于任意输入$x$它在$O(f(|x|))$时间内停机，那么$L\in NTIME(f(|x|))$

$NP$类：可以由非确定性图灵机在多项式时间内解决的判定问题，即$NP={\cup }_{k\in N}NTIME(n^k)$

$NEXPTIME$类：可以由非确定性图灵机在指数级时间内解决的判定问题，即$NEXPTIME={\cup }_{k\in N}NTIME(2^{n^k})$

$NP-hard$类：如果所有的$NP$类问题都可以多项式时间归约到问题$H$，那么称$H$是$NP-hard$的，即$H$不比$NP$类问题容易。

$NP-complete$类：如果问题$C$既属于$NP$类又属于$NP-hard$类，那么称$C$是$NPC$的。

$co-NP$类：一个问题（或者说，语言）$L\subseteq {\Sigma }^{\ast }$属于$co-NP$类，当仅当它的补集属于$NP$

$NP-intermediate$类：如果一个问题是$NP$的，但它既不是$P$的也不是$NPC$的。