整数规划之分支切割算法

目录

1. 分支切割算法简介

2.分支切割原理，及需要考虑的方面

3.分支切割算法的关键

4.总结

---

1. 分支切割算法简介

分支切割算法，即branch and cut，是branch and bound分支定界+cutting plane割平面。同理我们类比分支定价branch and price，是branch and bound分支定界+column generation列生成。两者都是精确算法。

解决的是整数规划问题。我们通过松弛IP得到LP，最好松弛得到的LP就是整数解。但是实际上，基本不可能。所以我们想：能不能通过一些边把多余的块砍掉，保持原问题所有整数可行域不变。因为LP问题的最优解一定是某些顶点，假如把多余的块砍掉，顶点刚好是整数点，那求解LP不就得到IP的最优解了吗。砍掉多余块的边/面，我们叫做割平面（二维里头叫边，多维叫面。）

随之而来又有一个问题，该怎么找到割平面呢？如果有多个割平面，需要把所有的割平面都找出来吗？还是只需要选择部分就好，那么应该选择哪些割平面呢？回答是找到——原来LP最优解违背最多的那些平面，割得效果最好。我们把这些割平面（有效割平面）也叫做有效不等式，即valid inequalities。迭代求解LP和不断加入割平面，就可以得到整数可行解。

2.分支切割原理，及需要考虑的方面

精确算法保证了解的质量，也就是最优的。那么我们只关注一点：怎么提高求解的效率？

从两个方面进行考虑，这是由branch and bound的求解框架决定的。第一，我们要想办法减少实际求解node数目，也就是子问题尽可能少；另外，还要想办法提升每个node的求解效率，也就是高效求解子问题。（本文图片来自胡骞老师ppt）。注意，column generation和cutting plane的目的是为了提供更好的下界，即松弛后的线性规划问题的最优解。上界是整数解，通常需要通过启发式算法求解得到。

有人可能会想，既然启发式求解得快，为啥还需要精确求解算法？答案是启发式算法求到的解，我们不知道有多好，距离最优解还有多远。精确算法能提供一个支撑，一个比较的参照系。当然，我们必须明晰的一点是，启发式算法和精确算法并不是各自为政的，可以相互结合。你看，branch and cut和branch and price这种精确算法不就是利用启发式算法的高效率得到一个可行上界吗？可以提高求解效率，同时缩小gap。

附带说一句，现在很多启发式算法，或者说智能算法，推陈出新得很快。我们有没必要学呢？我觉得没有必要，万变不离其宗。最主要的是我们学会比较经典的那几个就行，比如（以下是引用别人的原话，我个人比较认同。）：  “常用且比较推荐学习的有遗传算法GA、禁忌搜索算法TS、模拟退火算法SA、粒子群算法PSO、蚁群算法ACO、以及邻域搜索中的迭代邻域搜索算法、变邻域搜索算法VNS、自适应大规模邻域搜索算法ALNS”。

3.分支切割算法的关键

关键在于如何找到有效割平面。整数规划教材中写的经典的有效不等式，是Gomory不等式，这个很常见，也很有用。求解器基本也把Gomory不等式嵌里面了。下图可以看到cut的类型以及提升的效率，并不是绝对的。

 我们首先来介绍一下Gomory不等式。它的主要思想是：一个式子或者一组式子组合后除以一个值，然后向下取整。因为，都是整数变量，所以线性运算，也就是加减乘以后，肯定仍然是整数，所以相当于可以收紧。

第二种是取余：Modular。注意这里是等式处理，原来的是一个等式，然后找到一个数，左边取它的余数，右边常数取它的余数，符号变为。左边每个变量系数都向下取整，所以是，而后乘以除数的相反数，所以变为 。以下是例子。

 第三种是析取：Disjunctions。主要思想是把原来的可行解分为多个子集，然后分别求取子集的有效不等式，再转化为原来问题的有效不等式。方法是，子集系数取最小，右侧常数取最大。

 第四种，是非常常用的，且是很重要的一类：cover inequalities。(按照问题类型是，背包或者是流模型，可以继续往下分为knapsack cover和flow cover。)

我们来简述下cover inequalities。与之相关的还有加强型的cover——lifted cover inequalities，也就是和割得最好的cover方法——separation problem。

 我们来看上述图片。cover的定义是系数违背原约束的一个子集C。最小的cover，即minimal cover是指，对于cover C而言，去掉其中的任意一个元素系数，约束就成立了，也就是不再是一个cover。

对于每一个cover来说，元素累加cover个数-1。从所有系数中取到大于原来cover系数中最大的系数所组成的集合称为集合D，C与D并集的元素累加也 cover个数-1。这个被称为一个lifted cover inequalities。

有很多cover，应该选择哪个呢？这个涉及到separation problem，这个是核心所在。类似于列生成中的pricing problem定价子问题了。原理是，割掉LP最优解违反最多的割平面。

左下代表cover inequlity，是不违背的，是成立的。也就是说是成立的，<是不成立的，所以我们要让前面的不等式尽量小，也就是minimize。注意这里集合发生变化，我们用z来表示i是否在cover中，那么就可以转化为右边。约束是，一开始定义cover的系数违背约束。注意这里约束右侧取b+1，假如是小数，那么直接向上取证就行了。

另一类flow cover inequalities。按照=，<，和>分为三种。

4.总结

 所以主要涉及的点有以下几个：

未完待续......

这个基本是我听完讲座后的总结了。这些基础的我是听懂了，但是我还暂时不知道怎么去用，怎么编程用代码实现。运筹是理论和实践结合的特别紧密的学科，只听懂理论，没用，在没有用代码表述出自己的思路之前，一点用都没有，而且很容易忘。不过听了课，了解大概的原理，后续需要用到的时候，复习起来就方便了。写总结的过程也是加深理解和整理思路的过程。

后续假如实际用到了，再来补充。

参考资料：

优化求解器 | 强大的Cutting Plane算法：Gurobi中Cuts的介绍及案例探究(Python+Gurobi) (qq.com)