Coursera - Algorithm (Stanford) - 课程笔记 - Week 15

Approximation Algorithm for NP-Complete Problems

• 启发式算法：非常快速但不是百分之一百准确的算法——近似最优算法
• 针对背包问题
  • 可计算的特例？$W$很小时或者为$n$的多项式关系时计算可行
  • 比暴力搜索相对好的算法？$O(nW)$的动态规划，比$O(2^n)$的暴力搜索要好很多
• 针对背包问题的贪心启发式算法
  • 按照$\frac{v_i}{w_i}$降序排序，按顺序逐个尝试放入背包，直到装不下任何新目标
  • 附加步骤：最后要么返回上述结果，要么返回最大价值（比最优解好）的物品价值
  • 第二个选择能够保证达到至少50%的最优解
  • 时间复杂度$O(n\log n)$
• 更好一点？
  • 更强的假设：每一个物体的体积都在总体积的10%以内
    • 无附加贪心算法：能够保证达到至少90%的最优解
  • 同理，如果保证$\max w_i\le \delta W$，则无附加贪心算法能够保证达到$(1-\delta )$的最优解
• 针对背包问题的dp启发式算法
  • 已知
    • 如果$w_i$和$W$足够小且为整数，那么可以争取一个$O(nW)$的动态规划算法
    • 如果$v_i$足够小且为整数，那么可以实现一个多项式时间算法
  • 思路：“不那么正确”，不限制$v_i$的大小，但是将其转化为较小的情形，从而多项式时间解决——放弃低阶位
  • 算法
    1. 由误差$ϵ$确定一个基数$m$，将所有的$v_i$向下舍入到最近的$m$的倍数(越大的$m$，舍去的信息越多，准确率越低)，将舍入后的$v_i$除以$m$得到整数表示${\hat{v}}_i=\lfloor \frac{v_i}{m}\rfloor$
    2. 在转换后的${\hat{v}}_i$上使用dp算法计算最优解——$O(n^2\times {\max }_i{\hat{v}}_i)$
  • 小整数算法子结构：考虑物品与各个价值单位上可能的选择
    • $S_{i,x}$：当背包内物品价值至少为$x$时，使用前$i$个物品所能达到的最小体积占用
    • $i$循环从1到$n$；$x$循环从0到$n\times \max v_i$
    • S i , x = min ⁡ { S i − 1 , x , w i + S i − 1 , x − v i } S_{i, x} = \min \{S_{i - 1, x}, w_i + S_{i - 1, x - v_i}\} Si,x​=min{Si−1,x​,wi​+Si−1,x−vi​​}
    • 当$v_i\ge x$时，直接置0
  • 小整数算法实现
    • 初始化：$A[0,0]=0,A[0,x]=+\infty$
    • 主循环：$i=1\dots ,n$
      • 副循环：$x=0,\dots ,n{v}_{max}$
        • A [ i , x ] = min ⁡ { A [ i − 1 , x ] , w i + A [ i − 1 , x − v i ] } A[i, x] = \min \{A[i - 1, x], w_i + A[i - 1, x-v_i]\} A[i,x]=min{A[i−1,x],wi​+A[i−1,x−vi​]}
    • 从最大的$x$到最小，寻找最大的满足$A[n,x]\le W$的$x$即为所求
    • 时间复杂度：$O(n^2{v}_{max})$
  • $m$的确定$m=ϵ\frac{v_{max}}{n}$
  • 足够小的$m$，因此算法时间复杂度$O(\frac{1}{ϵ}{n}^3)$