![b108c83c6a8eeabe9139145d82150eab.png](https://i-blog.csdnimg.cn/blog_migrate/5d01fd81eb04e52a84a42c94b17c75de.jpeg)
PART1 楔子
由于01背包的问题属于经典问题。很多文章会直接将经典的解题思路写出来。但是这样,往往会让人容易忘记。让人记住一件事的最好的方法,就是让他了解这件事的来龙去脉。本文将从最朴素的暴力枚举、递归等方法谈起,去一步步分析每一种方法的优化点。详细的代码地址,在文末会给出。希望可以帮助到大家。
PART2 问题描述
现在有一个背包(容器),它的体积(容量)为V,现在有N种物品(每个物品只有一个),每个物品的价值W[i]和占用空间C[i]都会由输入给出,现在问这个背包最多能携带总价值多少的物品?
首先我们对这个问题进行简单的分析。每件物品只有一个,就意味着,对于任意一件物品,要么选择,要么不选。
在文章开头讲到了,我们先用最朴素的暴力枚举方案分析下问题,找出方案的不足,再继续分析更优的解决方案。
PART3 朴素的暴力算法
我们自底向上分析,第1个物品选不选可以轻松地用初始化解决,接下来处理第i个物品时,假设只有2个物品就好,那他处理完后前2个物品能带来的最大总价值就确定了,这样一直推下去,就可以推出前n个物品处理完后能带来的最大总价值。
递归算法
分析:
运用递归的思想,假如现在是从最后一个开始选,如果这个东西的重量大于背包的重量,那可以从第n-1个物体开始选。
假如这个东西的重量小于背包的重量,那么现在你将面临两个选择:
一、不选,那么你就跳过了这个物品,就可以从n-1开始选。
二、选,假如你选了的话,那么背包的重量就减少了,而且背包的价值提高了,那么就可以给定一个数去储存 这个价值并继续从下一个开始选。
最后比较n,n-1,......到 0 的价值大小。给定一个比较大小的函数即可输出最大价值。
![d5e5875cda8e554bba93d863a4a248df.png](https://i-blog.csdnimg.cn/blog_migrate/bf4ad2a5e7ffe5948b416e4e11c97abd.jpeg)
(PS:详细代码查看文末)
![4857ffb0974a5ed974d16733c31cfa6a.png](https://i-blog.csdnimg.cn/blog_migrate/8d064eafd876e9fb79520a99fbf7b703.jpeg)
(PS:详细代码查看文末)
暴力枚举
分析思路:
先根据物品的个数count生成所有的子集组合。01矩阵,也就是二维数组。然后对该矩阵进行遍历判断。判断每一步的容量是否超出背包容量,判断价值的最大值。关于生成子集组合的方式,还有通过格雷码的方式生成。这里暂时不做赘述。有兴趣的朋友可以自己去研究下。
![58a9098f4fd9a6dedca140cdd2b4bf11.png](https://i-blog.csdnimg.cn/blog_migrate/6e8ec529e4d9f5dfff06def288d85025.jpeg)
(PS:详细代码查看文末)
PART4 动态规划的原理及过程
1、原理
动态规划与分治法类似,都是把大问题拆分成小问题,通过寻找大问题与小问题的递推关系,解决一个个小问题,最终达到解决原问题的效果。但不同的是,分治法在子问题和子子问题等上被重复计算了很多次。而动态规划则具有记忆性,通过填写表把所有已经解决的子问题答案纪录下来,将其不同阶段的不同状态保存在一个二维数组中,在新问题里需要用到的子问题可以直接提取,避免了重复计算,从而节约了时间。
所以在问题满足最优性原理之后,用动态规划解决问题的核心就在于填表,表填写完毕,最优解也就找到。
2、分析过程
a) 把01背包问题抽象化
(X1,X2,…,Xn,其中 Xi 取0或1,表示第 i 个物品选或不选)
Vi表示第 i 个物品的价值,Wi表示第 i 个物品的体积(重量);
b) 建立模型
即求max(V1X1+V2X2+…+VnXn)
c) 约束条件
W1X1+W2X2+…+WnXn
d) 定义V(i,j)
当前背包容量 j,前 i 个物品最佳组合对应的价值;
e) 最优性原理是动态规划的基础
最优性原理是指【多阶段决策过程的最优决策序列具有这样的性质:
不论初始状态和初始决策如何,对于前面决策所造成的某一状态而言,
其后各阶段的决策序列必须构成最优策略】。
判断该问题是否满足最优性原理,采用反证法证明:
假设(X1,X2,…,Xn)是01背包问题的最优解,
则有(X2,X3,…,Xn)是其子问题的最优解,
假设(Y2,Y3,…,Yn)是上述问题的子问题最优解,
则理应有
(V2Y2+V3Y3+..+VnYn)+V1X1>(V2X2+V3X3+..+VnXn)+V1X
而 (V2X2+V3X3+…+VnXn)+V1X1=(V1X1+V2X2+…+VnXn)
则有 (V2Y2+V3Y3+…+VnYn)+V1X1 > (V1X1+V2X2+…+VnXn);
该式子说明(X1,Y2,Y3,…,Yn)才是该01背包问题的最优解,
这与最开始的假设(X1,X2,…,Xn)是01背包问题的最优解相矛盾。
故01背包问题满足最优性原理;
f) 寻找递推关系式
面对当前商品有两种可能性:
第一,包的容量比该商品体积小,装不下,此时的价值与前i-1个的价值是一样的,即V(i,j)=V(i-1,j);
第二,还有足够的容量可以装该商品,但装了也不一定达到当前最优价值,所以在装与不装之间选择最优的一个,即
V(i,j)=max{ V(i-1,j),V(i-1,j-w(i))+v(i) }
其中V(i-1,j)表示不装,V(i-1,j-w(i))+v(i) 表示装了第i个商品,背包容量减少w(i)但价值增加了v(i);
由此可以得出递推关系式:
1) j
2) j>=w(i) V(i,j)=max{ V(i-1,j),V(i-1,j-w(i))+v(i) }
g) 填表
首先初始化边界条件,V(0,j)=V(i,0)=0;
![58b5888a6f639c39cc3a31af74da480f.png](https://i-blog.csdnimg.cn/blog_migrate/a0778e336da1521310a35559c11c43de.jpeg)
(备注: 物品个数:number = 4,背包容量:capacity = 8)
![641953d35d8f371d4bbd18084da5bfea.png](https://i-blog.csdnimg.cn/blog_migrate/c2f3fda1d7466933b67cf5733eeea34a.jpeg)
(备注: 横轴为背包容量,纵轴为所选商品下标)
h) 表格填完,最优解即:V(number,capacity)=V(4,8)=10
3、二维数组动态规划
![ea6ec29e85561a9caf17b0a74b7e869b.png](https://i-blog.csdnimg.cn/blog_migrate/bff3f9ca641860c7c355a2d781b605a0.jpeg)
(PS:详细代码查看文末)
4、背包使用滚动数组压缩空间
所谓滚动数组,目的在于优化空间,从上面的解法我们可以看到,状态转移矩阵使用的是一个N*V的数组,在求解的过程中,我们可以发现,当前状态只与前一状态的解有关,那么之前存储的状态信息已经无用了,可以舍弃的,我们只需要空间存储当前的状态和前一状态,所以只需使用2*V的空间,循环滚动使用,就可以达到跟N*V一样的效果。这是一个非常大的空间优化。
代码如下,我们可以在每轮内循环结束后输出当前状态的解,与上面使用二维数组输出的状态转移矩阵对比,会发现是一样的效果,重定向输出到文本有助加深理解。
![43d1734f08d7429ce5e61c2b50697c85.png](https://i-blog.csdnimg.cn/blog_migrate/7a73be8f144e7bbef45dcb36d877d048.jpeg)
(PS:详细代码查看文末)
5、背包的空间降维优化 - 一维数组
1. 何为空间优化,为什么要空间优化?
在01背包中通过对数组的优化(用了滚动数组的方法),可以使本来N*V的空间复杂度降低到V,也就是把关于第几个物品的N去掉。
至于为什么要空间优化,首先是因为递推本来就是用空间换时间,消耗的空间比较大,然后关于算法的竞赛一般都会有空间的限制要求,最后,在找工作面试时,面试官肯定会问一些优化的问题,平时养成优化的习惯面试时也有好处。
2. 为什么这题可以降维?
通过观察可以发现对于普通版的01背包递推式,f[i][...]只和f[i-1][...]有关,那么我们可以用一种占用,一种滚动的方法来循环使用数组的空间,所以这个方法叫滚动数组,对于将来肯定用不到的数据,直接滚动覆盖即可。
滚动数组的缺点是牺牲了抹除了大量数据,不是每道题都可以用,但是在这,答案刚好是递推的最后一步,所以直接输出即可,递推完后不需要调用那些已经没了的数据。
![eed7984392ad3147a8a93b723f0ac149.png](https://i-blog.csdnimg.cn/blog_migrate/34234df70a54900f846cb58e77a75512.jpeg)
(PS:详细代码查看文末)
PART5 背包恰好装满
初始化有两种,一种情况是只要求价值最大,另外一种是要求完全刚好塞满。第一种的初始化是赋值为0第二种的初始化是赋值为负无穷,因为没有塞满,所以数据实际上不存在,也就是让不存在的数不现实化,让与这种数相关的数据都不可用化。
PART6 背包输出最优方案
一般来讲,背包问题都是求一个最优值。但是如果要求输出得到这个最优值的方案,就可以根据状态转移方程往后推,由这一状态找到上一状态,依次向前推即可。
这样就可以有两种实现方式,一种是直接根据状态转移矩阵向前推,另一种就是使用额外一个状态矩阵记录最优方案的路径,道理都是一样的。
PART7 拓展延升
在上面的分析过程中,我们最后采用了动态规划的思想进行分析。那关于动态规划的知识了解多少呢?与动态规划类似的分析方式还有什么?它们有什么各自的特点?下面将一一谈下。(PS:由于动态规划算法是最为复杂却也是最为有效的方法,我们放在最后来谈)
分治算法
分治算法是最容易与动态规划混淆的算法。但是他们之前有一个很重要的区别。下面会提到。
- 算法思想:将原问题划分成若干个规模较小而结构与原问题相似的子问题,递归的解决这 些子问题,然后再合其结果,就得到原问题的解
- 特征:
- 该问题的规模缩小到一定的程度就很容易解决
- 该问题可以分解为若干个规模较小的相同问题,即该问题具有最优子结构性质
- 利用该问题分解出的子问题的解可以合并为该问题的解;
- 该问题所分解出的各个子问题是相互独立的,即子问题之间不包含公共的子问题
- 与动态规划最大的区别就是 分治法里的子问题之间相互独立,不包含公共子问题。
贪心算法
- 算法思想:通过做一系列的选择来给出某一问题的最优解,对算法中的每一个决策点,做一个当时(看起来)是最优的选择。这种启发式的策略并不是总能产生出最优解。
- 步骤:
- 将优化问题转化成这样的一个问题,即先做出选择,在解决剩下的一个子问题
- 证明原问题总是有一个最优解是做贪心选择得到的,从而说明贪心选择的安全性
- 说明在作出贪心选择后,剩余的子问题具有这样一个性质。即如果将问题的最优解和我们所做的贪心选择联合起来,可以得出原问题的一个最优解。
- 要素:贪心选择性质、最优子结构性质
- 贪心选择性质:一个全局最优解可以通过局部最(贪心)选择来达到。
动态规划
- 算法思想:与分治法相似,也是通过组合子问题的解而解决整个问题。区别是,动态规划适用于分解得到的子问题往往不是相互独立的。在这种情况下如果采用分治法,有些子问题会被重复计算多次,动态规划通过记录已解决的子问题,可以避免重复计算。
- 步骤:
- 描述最优解的结构
- 递归定义最优解的值
- 按自底向上的方式计算最优解的值
- 由计算出的结果构造一个最优解的值
- 要素:最优子结构、重叠子问题
PART8 结语
从开始着手学习动态规划算法,到写完这篇文章。深深的体会到,以前在学校学习的数学归纳、数学推导、分析思想都是不可丢掉的。如果不重新捡起来这些,理解起来就难于上青天。最近本人也开始恶补关于数学方面的相关知识。
关于背包问题,弄清楚01背包的思想很重要。01背包的思想,对于接下来将要分析的完全背包、多充背包、混合背包等问题,同样适用。我们要做的事,学会推导状态转移方程与实现它,学会去优化空间复杂度,降维优化。
后续会继续更新关于背包问题的文章。敬请期待,欢迎斧正!
文中代码地址: 评论区附