整数规划学习笔记（一）

整数规划

整数规划模型

线性混合整数规划（MIP）

背包模型

旅行者要在一个背包内装入一些对旅行最有用的物品。背包最多只能装总重为b单位的物品，并且对于每件物品只能选择整个携带或者不带。假设共有n件物品，第j件物品重$a_j$，其价值为$c_j$。在携带物品总重量不超过b单位的情况下，请问应如何装入物品以使背包内的物品总价值最大。

对于$j=1,\dots ,n$，定义0-1决策变量$x_j$:
$$x_j=\{\begin{array}{ll}1& 携带物品j\\ 0& 否则\end{array}$$

则该问题的数学模型为
$$max\sum _{j=1}^n{c}_j{x}_j$$
$s.t.$
$$\begin{gathered} \sum _{j=1}^n{a}_j{x}_j\le b \\ {x}_j\in \forall j=1,\dots ,n \end{gathered}$$

广义指派模型

将n个任务（或物品）分配给m个员工（或背包）的问题。平衡指派模型是指任务数量和员工数量相等的情形。而现实中通常是任务数量大于员工数量且员工能力有限的广义指派模型(GAP)。GAP是经典的组合优化问题，许多领域的容量约束问题都可以被抽象为GAP进行求解。GAP可以描述为：将n个相互独立的任务分配给m个员工，一个任务只能由一个员工来完成，一个员工可以完成多项任务，但员工完成任务需要的总时间不得超过给定限制。

对于$i=1,\dots ,m;j=1,\dots ,n$，定义0-1决策变量$x_{ij}$:
$$x_{ij}=\{\begin{array}{ll}1& 任务j分配给员工i\\ 0& 否则\end{array}$$
令 I = { i ∣ i = 1 , … , m } I=\{ i|i=1,…,m \} I={i∣i=1,…,m}为员工集合， J = { j ∣ j = 1 , … , n } J=\{ j|j=1,…,n \} J={j∣j=1,…,n}为任务集合，$b_i$表示员工自身的工作时长限制，$r_{ij}$表示员工$i$完成任务$j$需要的时长，$c_{ij}$表示员工$i$完成任务$j$所消耗的资源或产生的收益。最终目标为成本最小或收益最大，则GAP可表述为
$$max或min\sum _{i\in I}\sum _{j\in J}{c}_{ij}{x}_{ij}$$
$s.t.$
∑ j ∈ J r i j x i j ≤ b i , ∀ i ∈ I , ∑ i ∈ I x i j = 1 , ∀ j ∈ J , x i j ∈ { 0 , 1 } , ∀ i ∈ I , ∀ j ∈ J . \sum_{j \in J}r_{ij}x_{ij} \leq b_i, \forall i \in I, \\ \sum_{i \in I}x_{ij}=1, \forall j \in J, \\ x_{ij} \in \{ 0,1 \}, \forall i \in I ,\forall j \in J. j∈J∑​rij​xij​≤bi​,∀i∈I,i∈I∑​xij​=1,∀j∈J,xij​∈{0,1},∀i∈I,∀j∈J.

集合包装、覆盖和划分模型

集合包装约束要求每个子集$j$中最多有一个元素出现在最优解中

$$\sum _{j\in J}{x}_j\le 1.$$

集合覆盖约束要求每个子集$j$中至少有一个元素出现在最优解中

$$\sum _{j\in J}{x}_j\ge 1.$$

集合划分约束要求每个子集$j$中有且仅有一个元素出现在最优解中

$$\sum _{j\in J}{x}_j=1.$$

含固定成本的整数规划模型

含固定成本的整数规划模型指的是目标函数中存在固定成本。

设施选址模型

设施选址模型需要解决两个问题，一是选定那些点建立设施，二是被选中的点如何满足顾客需求。因此需要定义两类决策变量。

定义0-1决策变量$y_i$为
$$y_i=\{\begin{array}{ll}1& 在i点建立设施\\ 0& 否则\end{array}$$
定义决策变量$x_{ij}$为
$$x_{ij}=设施点i满足顾客j的需求量在该顾客总需求中所占的比例$$
令$I$为设施点集合，$J$为客户集合，$d_j$为客户$j\in J$的总需求，$f_i$为在设施点$i\in I$建立设施所需的固定费用，$u_i$为设施点$i$能够提供的最大服务量，$c_{ij}$为顾客$j$从设施点$i$获取单位服务量而产生的成本。设施选址问题的整数线性规划模型可表示如下：
$$min\sum _{i\in I}\sum _{j\in J}{c}_{ij}{d}_j{x}_{ij}+\sum _{i\in I}{f}_i{y}_i$$
$s.t.$
∑ i ∈ I x i j = d j , ∀ j ∈ J , ∑ j ∈ J d j x i j ≤ u i y i , ∀ i ∈ I , x i j ≥ 0 , ∀ i ∈ I , j ∈ J , y i ∈ { 0 , 1 } , ∀ i ∈ I . \sum_{i \in I} x_{ij} = d_j,\forall j \in J, \\ \sum_{j \in J} d_j x_{ij} \le u_iy_i, \forall i \in I, \\ x_{ij} \ge 0,\forall i \in I, j \in J, \\ y_i \in \{ 0,1 \}, \forall i \in I. i∈I∑​xij​=dj​,∀j∈J,j∈J∑​dj​xij​≤ui​yi​,∀i∈I,xij​≥0,∀i∈I,j∈J,yi​∈{0,1},∀i∈I.
如果客户所需的全部服务的全部服务必须从单一设施点获得，则还需要以下约束：
x i j ∈ { 0 , 1 } , ∀ i ∈ I , j ∈ J . x_{ij} \in \{ 0,1\},\forall i \in I, j \in J. xij​∈{0,1},∀i∈I,j∈J.
针对顾客的服务需求则可以在不同的设施点获得的情况，$x_{ij}$则是连续的。

网络设计模型

在网络模型中，用$V$表示网络中的节点集，$A$表示网络中的弧集，$b_i$表示节点$i\in V$所需的网络流量，$u_{ij}$表示弧$(i,j)\in A$的最大网络流量限制，$f_{ij}$表示建立通路$(i,j)$花费的固定成本，$c_{ij}$表示经过弧$(i,j)$的单位流量成本。

对于弧$(i,j)\in A$，定义连续变量$x_{ij}$为通过弧$(i,j)$的网络流量，0-1变量$y_{ij}$为点$i$和$j$之间是否建立通路。
$$min\sum _{(i,j)\in A}{f}_{ij}{y}_{ij}+\sum _{(i,j)\in A}{c}_{ij}{x}_{ij}$$
$s.t.$
∑ ( i , k ) ∈ A x i k − ∑ ( k , j ) ∈ A x k j = b k , ∀ k ∈ V , 0 ≤ x i j ≤ u i j y i j , ∀ ( i , j ) ∈ A , y i j ∈ { 0 , 1 } , ∀ ( i , j ) ∈ A . \sum_{(i,k) \in A}x_{ik}-\sum_{(k,j) \in A}x_{kj}=b_k, \forall k \in V, \\ 0 \le x_{ij} \le u_{ij}y_{ij}, \forall (i,j) \in A, \\ y_{ij} \in \{ 0,1 \}, \forall (i,j) \in A. (i,k)∈A∑​xik​−(k,j)∈A∑​xkj​=bk​,∀k∈V,0≤xij​≤uij​yij​,∀(i,j)∈A,yij​∈{0,1},∀(i,j)∈A.

旅行商问题

一个商品推销员要去若干个城市推销商品，该推销员从一个城市出发，需要经过所有城市后再回到出发点，选择一条路线使得总行程最短。

对称TSP

引入决策变量$x_{ij}(i<j)$
$$x_{ij}=\{\begin{array}{ll}1& 如果解中包含从点i到点j的线段\\ 0& 否则\end{array}$$
令集合$I$为所有点集，$d_{ij}$为从点$i$到点$j$的距离，则总的路径长度可以表示为如下线性形式：
$$\sum _{i\in I}\sum _{j>i,j\in I}{d}_{ij}{x}_{ij}$$
在对称情况下，对于任意点$i\in I$，可行解中都恰好存在两个$x$变量等于1，使得$i$与前后两个城市相连，这一约束可以表示为：
$$\sum _{j<i,j\in I}{x}_{ji}+\sum _{j>i,j\in I}{x}_{ij}=2,\forall i\in I.$$
但上述约束无法避免子回路问题，考虑到至少要3个点才能形成子回路，可以令$S$为集合$I$的一个真子集，满足$|S|\ge 3$。则任意不在$S$内形成子回路的路径必须在$S$内外至少穿过两次，即：
$$\sum _{i\in S}\sum _{j\notin S,j>i}{x}_{ij}+\sum _{i\notin S}\sum _{j\in S,j>i}{x}_{ij}\ge 2.$$
综上所述，对称TSP的整数线性规划模型如下：
$$min\sum _{i\in I}\sum _{j>i,j\in I}{d}_{ij}{x}_{ij}$$
$s.t.$
∑ j < i , j ∈ I x j i + ∑ j > i , j ∈ I x i j = 2 , ∀ i ∈ I , ∑ i ∈ S ∑ j ∉ S , j > i x i j + ∑ i ∉ S ∑ j ∈ S , j > i x i j ≥ 2 , ∀ S ⊂ I , ∣ S ∣ ≥ 3 , x i j ∈ { 0 , 1 } , ∀ i , j ∈ I , j > i . \sum_{j \lt i,j \in I}x_{ji}+\sum_{j \gt i,j \in I}x_{ij}=2, \forall i \in I ,\\ \sum_{i \in S}\sum_{j \notin S,j\gt i}x_{ij}+\sum_{i \notin S}\sum_{j \in S,j\gt i}x_{ij} \ge 2,\forall S \subset I,|S| \ge 3 ,\\ x_{ij} \in \{0,1\}, \forall i,j \in I,j \gt i. j<i,j∈I∑​xji​+j>i,j∈I∑​xij​=2,∀i∈I,i∈S∑​j∈/S,j>i∑​xij​+i∈/S∑​j∈S,j>i∑​xij​≥2,∀S⊂I,∣S∣≥3,xij​∈{0,1},∀i,j∈I,j>i.

不对称TSP

引入决策变量$x_{ij}$
$$x_{ij}=\{\begin{array}{ll}1& 如果路径依次通过i和j\\ 0& 否则\end{array}$$
由于成本的不对称性，约束条件应更新为：

$$\begin{gathered} \sum _{j\in I}{x}_{ji}=1,\forall i\in I. \\ \sum _{j\in I}{x}_{ij}=1,\forall i\in I. \end{gathered}$$
对于子路径的约束更新为：

$$\sum _{i\in S}\sum _{j\notin S}{x}_{ij}\ge 1.$$
或
$$\sum _{i\in S}\sum _{j\in S}{x}_{ij}\le |S|-1.$$

对于非对称情况，$|S|\ge 2$

综上所述，非对称TSP的整数线性规划模型如下：
$$min\sum _{i\in I}\sum _{j\in I}{d}_{ij}{x}_{ij}$$
$s.t.$
$$\begin{gathered} \sum _{j\in I}{x}_{ji}=1,\forall i\in I, \\ \sum _{j\in I}{x}_{ij}=1,\forall i\in I, \\ \sum _{i\in S}\sum _{j\notin S}{x}_{ij}\ge 1,\forall S\subset I,|S|\ge 2, \end{gathered}$$
或
∑ i ∈ S ∑ j ∈ S x i j ≤ ∣ S ∣ − 1 ， ∀ S ⊂ I , ∣ S ∣ ≥ 2 , x i j ∈ { 0 , 1 } , ∀ i , j ∈ I . \sum_{i \in S}\sum_{j \in S}x_{ij} \le |S|-1，\forall S \subset I,|S| \ge 2 , \\ x_{ij} \in \{0,1\} , \forall i,j \in I. i∈S∑​j∈S∑​xij​≤∣S∣−1，∀S⊂I,∣S∣≥2,xij​∈{0,1},∀i,j∈I.

拓展

MTZ模型

$$min\sum _{i\in I}\sum _{j\in I}{c}_{ij}{x}_{ij}$$

$s.t.$
$$\begin{gathered} \sum _{i\in I}{x}_{ij}=1,\forall j\in I, \\ \sum _{j\in I}{x}_{ij}=1,\forall i\in I, \\ {u}_i-u_j+(n-1)x_{ij}\le n-2,2\le i=j\le n. \end{gathered}$$

对于$u_i-u_j+(n-1)x_{ij}\le n-2,2\le i,j\le n$，可以证明其为无子环约束：

当生成一个子环$i-j-k-l-i$时，有$u_i<u_j<u_k<u_l<u_i$，则$u_i<u_i$，不成立。注意$2\le i,j\le n$，这是因为这项约束其实是“无环约束”，而TSP问题的解本身就是一个大环，所以要把起始点剔除出去。

货物流模型

包括单类流模型（Single-Commodity Flow，SCM)，双类流模型（Two-Commodity Flow，TCM）和多类流模型（Multi-Commodity Flow，MCM）。基于货物流的模型采用了DFJ、MTZ一样的目标函数，流平衡约束和决策变量$x_{ij}$的定义，不同的是对子回路约束。下面只讨论多类流模型的子回路约束：
y i j k ≤ x i j , ∀ i , j , k ∈ N , k ≠ 1 ∑ i ∈ V y 1 i k = 1 , ∀ k ∈ V \ { 1 } ∑ i ∈ V y i 1 k = 0 , ∀ k ∈ V \ { 1 } ∑ i ∈ V y i k k = 1 , ∀ k ∈ V \ { 1 } ∑ j ∈ V y k j k = 1 , ∀ k ∈ V \ { 1 } ∑ i ∈ V y i j k − ∑ i ∈ V y j i k = 0 , ∀ j , k ∈ V \ { 1 } , j ≠ k y_{ij}^k \le x_{ij},\forall i,j,k \in N,k \ne1 \\ \sum_{i \in V} y_{1i}^k =1,\forall k \in V \backslash \{1\} \\ \sum_{i \in V} y_{i1}^k =0,\forall k \in V \backslash \{1\} \\ \sum_{i \in V} y_{ik}^k =1,\forall k \in V \backslash \{1\} \\ \sum_{j \in V} y_{kj}^k =1,\forall k \in V \backslash \{1\} \\ \sum_{i \in V} y_{ij}^k-\sum_{i \in V} y_{ji}^k=0,\forall j,k \in V \backslash \{1\} ,j \ne k yijk​≤xij​,∀i,j,k∈N,k=1i∈V∑​y1ik​=1,∀k∈V\{1}i∈V∑​yi1k​=0,∀k∈V\{1}i∈V∑​yikk​=1,∀k∈V\{1}j∈V∑​ykjk​=1,∀k∈V\{1}i∈V∑​yijk​−i∈V∑​yjik​=0,∀j,k∈V\{1},j=k
最后一行表示不是该顾客的货物在经过顾客的时候不会被留下，解释如下：
$$\begin{gathered} \sum _{i\in V}{y}_{ij}^k——从任意点i到j的k的流量的和 \\ \sum _{i\in V}{y}_{ji}^k——从j到任意点i的k的流量的和 \end{gathered}$$
第k种货物只会在k点被留下，如果第k种货物还没被卸下，被从某一点i带到了j点，则有
$$\sum _{i\in V}{y}_{ij}^k=1$$
而它不会被留下，会被带到下一个点，所以有
$$\sum _{i\in V}{y}_{ji}^k=1$$
如果第k种货物已经被卸货了，没有被带来j点，显然有
$$\sum _{i\in V}{y}_{ij}^k=\sum _{i\in V}{y}_{ji}^k=0$$
继而有
$$\sum _{i\in V}{y}_{ij}^k-\sum _{i\in V}{y}_{ji}^k=0$$

非线性整数规划

一般非线性混合整数规划（MINLP）问题可表示为：
$$minf(x,y)$$
$s.t.$
$$\begin{gathered} g_i(x,y)\le b_i,i=1,\dots ,m \\ x\in X,\in Y \end{gathered}$$
式中：
$$\begin{gathered} f,g_i——{\mathbb{R}}^{n+q}上的实值函数 \\ X——{\mathbb{Z}}^n的子集 \\ Y——{\mathbb{R}}^q的一个子集 \end{gathered}$$
当（MINLP）中没有连续变量$y$时，就是一个（纯）非线性整数规划（NLIP）：
$$minf(x)$$
$s.t.$
$$\begin{gathered} g_i(x)\le b_i,i=1,\dots ,m \\ x\in X \end{gathered}$$

投资组合

设市场有$n$种股票和一种无风险资产，投资者把初始财富$W_0$投资于这$n$种股票和一种无风险资产，以保证在平均收益达到一定水平的条件下是投资风险最小。

设$X_i$是一随机变量，表示第$i$种股票每手未来的价值，$(X_1,\dots ,X_n)$的期望和协方差为
$${\mu }_i=E(X_i),{\sigma }_{ij}=Cov(X_i,X_j),i,j=1,\dots ,n$$
设$x_i$是整数变量，表示投资于第$i$种股票的手数，$x=(x_1,\dots ,x_n{)}^T$是投资组合决策变量，其对应的随机收益为$P_s(x)={\sum }_{i=1}^n{x}_i{X}_i$。则投资组合收益$P_s(x)$的均值和方差分别为
$$\begin{gathered} s(x)=E[P_s(x)]=\sum _{i=1}^n{\mu }_i{x}_i \\ V(x)=Var(P_s(x))=\sum _{i=1}^n\sum _{j=1}^n{x}_i{x}_j{\sigma }_{ij}=x^{T}Cx \end{gathered}$$
其中$C=({\sigma }_{ij}{)}_{(n\times n)}$表示协方差矩阵。设$r$是无风险投资的收益率，$b=(b_1,\dots ,b_n{)}^T$是当前的股票价格。注意到投资者在无风险资产上的投资额为$x_0=(W_0-{\sum }_{i=1}^n{b}_i{X}_i)$。设交易费用为$c(x)={\sum }_{i=1}^n{c}_i(x_i)$，则投资组合的净收益为
$$R(x)=s(x)+r{x}_0-\sum _{i=1}^n{c}_i(x_i)=\sum _{i=1}^n[({\mu }_i-r{b}_i)x_i-c_i(x_i)]+r{W}_0$$
从而均值-方差投资组合模型（MV）：
$$minV(x)=x^{T}Cx$$
$s.t.$
∑ i = 1 n [ ( μ i − r b i ) x i − c i ( x i ) ] + r W 0 ≥ ϵ , b T x ≤ W 0 , x ∈ X = { x ∈ Z n ∣ l i ≤ x i ≤ u i } . \sum_{i=1}^n[(\mu_i-rb_i)x_i-c_i(x_i)]+rW_0 \ge \epsilon, \\ b^Tx\le W_0, \\ x\in X=\{x \in \mathbb Z^n | l_i \le x_i \le u_i\}. i=1∑n​[(μi​−rbi​)xi​−ci​(xi​)]+rW0​≥ϵ,bTx≤W0​,x∈X={x∈Zn∣li​≤xi​≤ui​}.

最大割问题

设$G=(V,E)$是有$n$个顶点的无向图，设边$(i,j)$上的权为$w_{ij}(w_{ij}=w_{ji}\ge 0)$。图$G$的一个割$(S,S^{\prime })$是指$n$个顶点的一个分割：$S\cap S^{\prime }=\varnothing ,S\cup S^{\prime }=V$。最大割问题是求一个分割$(S,S^{\prime })$使连接$S$和$S^{\prime }$之间的所有边上的权之和最大。

设$x_i=1,i\in S,x_i=-1,i\in S^{\prime }$。则分割$(S,S^{\prime })$上的权为：
$$\frac{1}{2}(\frac{1}{2}\sum _{i,j=1}^n{w}_{ij}-\frac{1}{2}\sum _{i,j=1}^n{w}_{ij}{x}_i{x}_j)=\frac{1}{4}\sum _{i,j=1}^n{w}_{ij}(1-x_i{x}_j)$$
故最大割问题可以表示为：
$$max\frac{1}{4}\sum _{i,j=1}^n{w}_{ij}(1-x_i{x}_j)$$
$s.t.$
x ∈ { − 1 , 1 } n . x\in\{-1,1\}^n. x∈{−1,1}n.