线性规划——单纯形法

线性规划(Linear Programming)

概念

目标函数是线性的，约束条件是线性等式或不等式，每个变量都取实数值.

标准形式

$$\begin{array}{ll}\text{ minimize }& c^{\mathrm{T}}x\\ \text{ subject to }& Ax=b\\ & x\ge 0\end{array}$$
其中$b\in {\mathbb{R}}^m,A\in {\mathbb{R}}^{m\times n},c\in {\mathbb{R}}^n,x\in {\mathbb{R}}^n$.

1. 线性标准型的一般形式化为标准型的方法：添加松弛变量；有自由变量的时候，使用消元或者变量替换的形式.
2. 标准型是为了便于理论分析和算法设计，任何满足线性规划要求的均可转换成标准型，如极小化绝对值的和、极小化逐段线性凸函数等特殊线性形式.

单纯形法(Simplex Method)

高中数学教材已经介绍过简单线性规划的解法了：图解法。但是在变量大于二维时，图解法就很不直观。
单纯形法利用了线性规划的基本定理，即只要穷举多个基本可行解，就一定能找到最优解。它是一种搜索机制，即从一个初始可行解出发，不断迭代到相邻的可行解，同时让目标函数下降。

单纯形法的思路总结

整体过程

迭代求解，不断下降目标值。在几何上可以看成从一个顶点开始，沿着多面体的边行走到下一个使目标函数下降的另一个顶点。

约化问题

标准形式
$$\begin{array}{ll}\text{ minimize }& c^{\mathrm{T}}x\\ \text{ subject to }& Ax=b\\ & x\ge 0\end{array}$$
用非基变量代替基变量，可以将原始问题约化到

二者是等价问题，其中r被称作费用系数.
该等价问题被化为，以非基变量作为目标函数，约束为基变量的不等式组及非零约束。原来的$Ax=b$已经隐含到目标函数中了.

最优解判定

由约化问题可以看出，只要费用系数r均大于0，可以轻易看出最优解就是非基变量全取0的形式.

迭代过程

若费用系数r有小于0的，那说明对应的非基变量可以不断上升使目标函数下降。但是因为约束的存在，非基变量又不能无限地增加。所以我们可以贪婪地使x增加到约束的边界$$x_q⩽\min \left\{\frac{y_{i0}}{y_{iq}}:y_{iq}>0,i=1,2,\cdots ,m\right\}$$，到达边界后，肯定会有非零的基变量会变成0（因为非基变量和基变量有个表达式关系），这时候就会发生进基和出基的操作，$y_{pq}$就是转轴元.

其它情况

退化解

如果采用最小费用系数进基的情况，可能会产生循环的情况，意味着迭代若干步后又回到了最初的解。这时解决方案可以有摄动法、Bland法则. 一般程序中会专门写对付循环机制的代码.

没有初始可行解的情况

对于$Ax⩽b,x⩾0$且其中$b⩾0$的情况，可以直接构造可行解。但是一般情况，难以看出可行解，这时使用两阶段法.
先构造$$Ax=b,x⩾0$$让$b⩾0$，然后考虑辅助问题：

y是人工变量. $x=0,y=b$自动构成基本可行解。第一阶段同样使用单纯形法构造出基本可行解，转轴时不用考虑费用系数，且当基变量的系数均为0时可以去除冗余方程。

修正单纯形法

寻优过程中仅一小部分列发生转轴，没有显式用到的列很多，对这些列的计算有些浪费. 当m比n小得多时，修正单纯形法可以节省开销。

修正单纯形表如下：

执行以$y_{pq}$为主轴的转轴运算，即可得与新基对应的数据。

单纯形法的计算复杂度

由Klee-Minty定理，单纯形法的时间复杂度是指数级的.

参考文献

数学规划基础——刘红英