Coursera - Algorithm (Stanford) - 课程笔记 - Week 14

NP-Complete Problems

• 普遍的难解性：很多计算问题无法有效求解
• 多项式时间可解问题：一个问题的算法时间复杂度为$O(n^k)$，其中$k$为常数
• P：所有多项式时间可解问题的集合，可以被多项式时间算法高效地解决
• 背包问题是NP完全问题，虽然时间复杂度$\theta (nW)$，但是输入尺度是正比于$\log (W)$的，也就是非常数增长，并不是多项式（$\theta (n{2}^{\log W})$）
• 旅行商问题
  • 输入：非负边权无向图
  • 输出：遍历所有顶点的环，代价最低
• 规约：问题${\pi }_1$归约到${\pi }_2$，如果存在一个多项式时间算法解决${\pi }_2$，那么就存在一个多项式时间算法解决${\pi }_1$，反之亦然
• 逆反性：如果${\pi }_1$不在P中，那么${\pi }_2$也不会是P中问题——${\pi }_2$至少和${\pi }_1$一样困难
• C-完全性：对问题集合$C$，有
  • $\pi \in C$
  • $C$中的任何问题都可以归约到$\pi$
  • 那么$\pi$是C-完全的——$C$中最难的问题
• 证明TSP是NP完全的——旅行商问题至少和暴力搜索问题一样难
• 一个问题是NP的条件
  • 解的长度总是输入的多项式关系
  • 给定解可在多项式时间内得到验证
• $P=NP$？如果存在一个NP完全问题的多项式算法，那么归约到其的所有NP问题都能够多项式时间内解决
• 广泛的认知：$P\ne NP$——尽管尚未被证明
• NP——Nondeterministic Polynomial——不确定是否为多项式时间内可解问题
• 近似求解NP问题的策略
  • 专注于可解的特例
  • 启发式解法——一些很快但不是总是正确的解法
  • 在指数时间内解决，但是比暴力搜索更快

Algorithms for NP-Complete Problems

• 顶点覆盖问题
  • 输入：无向图$G=(V,E)$
  • 目标：计算一个最小基数点覆盖子集$S\subseteq V$，保证每条边都有至少一个端点包含在其中
  • 一般情况下，顶点覆盖问题是一个NP完全问题
• 假设：给定整数$k$，那么算法需要检查是否存在一个$k$个点的顶点覆盖集——一个很小的$k$，可以在指数算法中很快地解决
  • 全局搜索？$\theta (n^k)$时间复杂度
  • 更聪明的搜索？
• 子结构：给定图$G$，存在边$(u,v)\in G$，证书$k\ge 1$
  • $G_u$：$G$删除点$u$及其关联的边
  • $G_v$：同理
  • $G$中存在一个$k$大小的顶点覆盖集 $\iff$ $G_u$或者$G_v$中存在一个$k-1$大小的顶点覆盖集
• 搜索算法
  • 随机选择一条边$(u,v)\in G$
  • 递归地搜索$G_u$是否存在一个$k-1$大小的顶点覆盖集$S$，若存在，则返回结果为 S ∪ { u } S \cup \{u\} S∪{u}
  • 递归地搜索$G_v$是否存在一个$k-1$大小的顶点覆盖集$S$，若存在，则返回结果为 S ∪ { v } S \cup \{v\} S∪{v}
  • 时间复杂度：$O(2^k)$次递归调用，每一次递归产生子图需要$O(m)$，总事件复杂度为$O(2^{k}m)$——在$k$保证$O(\log n)$，可以实现多项式时间处理，显然比暴力搜索好（$O(n^k)$）
• TSP问题？
  • 暴力搜索：$O(n!)$
  • dp算法：$O(n^2{2}^n)$——远比暴力搜索好
• TSP的DP解法
  • 最优子结构？： L i j = max ⁡ { L i − 1 , k + c k j } L_{ij} = \max \{ L_{i - 1, k} + c_{kj} \} Lij​=max{Li−1,k​+ckj​}，其中$L_{i-1,k}$表示使用$i-1$条边，从$1$到$k$的无重复最短路——问题：无法泛化问题
  • 思路：保证无重复节点，需要记住所有已遍历的节点（不要求顺序，复杂度大大降低）
  • 子问题：$L_{S,j}$，对于目的地 j ∈ { 1 , … , n } j \in \{1, \dots, n\} j∈{1,…,n}，每一个包含$1$和$j$的子集 S = { 1 , … , n } S = \{1, \dots, n\} S={1,…,n}，从$1$到$j$恰遍历了所有$S$中顶点的路径最小长度
  • 最优子结构： L S , j = min ⁡ k ∈ S , k ≠ j { L S − { j } , k + c k j } L_{S, j} = \min_{k \in S, k \neq j} \{L_{S - \{j\}, k} + c_{kj}\} LS,j​=mink∈S,k​=j​{LS−{j},k​+ckj​}
  • 实现
    • 初始化： A [ S , 1 ] = { 0 if  S = { 1 } + ∞ otherwise A[S, 1] = \begin{cases} 0 & \text{if} \ S = \{1\} \\ +\infty & \text{otherwise} \end{cases} A[S,1]={0+∞​if S={1}otherwise​
    • 循环：$m=2,\dots ,n$， S ⊆ { 1 , … , n } S \subseteq \{1, \dots, n \} S⊆{1,…,n}，大小为$m$，同时包含元素$1$
      • 对任意$j\in S$： A [ S , j ] = min ⁡ k ∈ S , k ≠ j { A [ S − { j } , k ] + c k j } A[S, j] = \min_{k \in S, k \neq j} \{A[S-\{j\}, k] + c_{kj}\} A[S,j]=mink∈S,k​=j​{A[S−{j},k]+ckj​}
    • 最优结果： min ⁡ j { A [ { 1 , … , n } , j ] + c j 1 } \min_j \{A[\{1, \dots, n\}, j] + c_{j1}\} minj​{A[{1,…,n},j]+cj1​}
  • 时间复杂度
    • $j$的选择：$O(n)$
    • $S$的选择：$O(2^n)$
    • 每次更新的遍历比较：$O(n)$
    • 总复杂度$(n^2{2}^n)$