Benders分解的理解

Benders分解

基本描述

原问题的矩阵表示形式：
$$\begin{array}{r}\mathrm{Minimize}\mathrm{z}={\mathrm{c}}^{\mathrm{T}}\mathrm{x}+{\mathrm{f}}^{\mathrm{T}}\mathrm{y}\\ \mathrm{subject}\mathrm{to}:\mathrm{Ax}+\mathrm{By}=\mathrm{b}\\ \mathrm{x}\ge 0,\mathrm{y}\in \mathrm{Y}\subseteq {\mathbb{R}}^q\end{array}$$
主问题(master problem)：
$$\begin{array}{l}{\text{Minimizez= f}}^{\mathrm{T}}\mathrm{y}+\mathrm{q}(\mathrm{y})\\ \text{subject to: y}\in \mathrm{Y}\end{array}$$
式中$q(y)$是在y给定时子问题的最优值

子问题（subproblem）：
$$\begin{array}{c}{\text{Minimize c}}^{\mathrm{T}}\text{x}\\ \text{subject to: A}\mathrm{x}=\mathrm{b}-\mathrm{By}\\ \mathrm{x}\ge 0\end{array}$$
子问题的对偶问题为：
$$\underset{u}{\max }\left\{(b-By{)}^{T}u:A^{T}u\le c,u\in R_{+}^p\right\}$$

子问题有解策略

若子问题无界，则原问题无界。在子问题有界时，我们可以通过求解子问题的对偶问题来求解$q(y)$。

注意，在子问题的对偶问题中，不看目标函数，只看约束条件：$$A^{T}u\le c,u\in R_{+}^p$$,可行空间中存在多个极点$(u)$，这些极点中的一个：$u^{\ast }$是全局最优的$y^{\ast }$对应的极点。这些极点中的另一个**$\bar{u}$是当前的y对应的极点。由于对偶问题是一个max问题，对$y^{\ast }$来说，$\bar{u}$**计算出的目标值一定小于等于$u^{\ast }$计算出的目标值：
$$(\mathbf{b}-B{\mathbf{y}}^{\ast }{)}^{\mathrm{T}}{\mathbf{u}}^{\ast }+{\mathbf{f}}^{\mathrm{T}}{\mathbf{y}}^{\ast }\ge (\mathbf{b}-B{\mathbf{y}}^{\ast }{)}^{\mathrm{T}}\bar{\mathbf{u}}+{\mathbf{f}}^{\mathrm{T}}{\mathbf{y}}^{\ast }$$
这就相当于给出了$z$的一个下界。（所有依赖于线性规划的最优解一定取在顶点上）
$$z\ge (\mathbf{b}-B\mathbf{y}{)}^{\mathrm{T}}\bar{\mathbf{u}}+{\mathbf{f}}^{\mathrm{T}}\mathbf{y}$$
将此约束加入到主问题中，在最小化问题中，下界直接限制了y的变化范围，让其离真实的y越来越近。

子问题无解策略

如果子问题无解，说明取得y不合理，需要对y加以限制。

根据弱对偶原理，原问题 与 对偶问题 ,

一个无界 , 另一个肯定不可行 ;

一个不可行 , 另一个不一定可行 , 有两种情况 ① 无界解 ② 无可行解 ;

如果子问题的对偶问题不可行，无论y怎么调整子问题的对偶问题都不可行；如果子问题的对偶问题无界，调整y可以使其可行。

基于此，采用加入极方向约束进行限制：
$$v^t\left(b-By\right)\le 0$$
其中$v^t$是对偶问题的极方向。其中极方向集合为

$$U=\left\{v\in R_{+}^p:A^{T}v\ge c\right\}$$
通过此方法可以限制y让其在此极方向上有解。

收敛条件

上界：

子问题的解加主问题的解，y是这一轮迭代求解出的值。
$$UB=(\mathbf{b}-B\mathbf{y}{)}^{\mathrm{T}}\bar{\mathbf{u}}+{\mathbf{f}}^{\mathrm{T}}\mathbf{y}$$

下界：

每次迭代主问题的解,主问题如下所示：
$$\begin{gathered} \min z \\ {v}^t\left(b-By\right)\le 0 \\ z\ge (\mathbf{b}-B\mathbf{y}{)}^{\mathrm{T}}\bar{\mathbf{u}}+{\mathbf{f}}^{\mathrm{T}}\mathbf{y} \end{gathered}$$

算法流程：

• step1:初始化，初始化上下界$UB:=+\infty ,LB:=-\infty$

• step2:若 $UB-LB>ϵ$ 则进入Step 3，否则直接输出最优解

• step3:求解对偶问题,得到最优解$\bar{u}$

• step4:若对偶问题无界，则添加约束$v^t\left(b-By\right)\le 0$到主问题中

• step5:若对偶问题有解，则添加约束$z\ge (\mathbf{b}-B\mathbf{y}{)}^{\mathrm{T}}\bar{\mathbf{u}}+{\mathbf{f}}^{\mathrm{T}}\mathbf{y}$到主问题中，更新 U B = min ⁡ { U B , ( b − B y ) T u ˉ + f T y } UB= \min\{UB,(\mathbf{b}-B\mathbf{y})^{\mathrm{T}}\mathbf{\bar{u}}+\mathbf{f}^{\mathrm{T}}\mathbf{y}\} UB=min{UB,(b−By)Tuˉ+fTy}

• step6:求解主问题得到最优解$y_{new},{\eta }_{new}$，然后更新 $LB:=f^T{y}_{new}+{\eta }_{new}$，返回step 2

参考：

Benders 分解

Benders decomposition - Wikipedia