线性规划（LP）问题求解——单纯形法

单纯形法

为了更加容易地理解单纯形法，下面我结合一个例子，来讲解单纯形法的思路和实现过程。

对于有界线性规划问题，我们可以想办法计算每个约束线交汇的交点，然后取这些交点中最大的目标函数值，就得到线性规划问题的最优解。

首先我们引入松弛变量。引入松弛变量使所有约束方程从不等式变成等式。
举例来说，对于约束约束

可以定义一个松弛变量S1，将其加到约束条件的左边，得到如下关系：

分析一下松弛变量：如果它是正数，表示我们在这个约束条件下还有些放松的余地，还有一些资源没有完全使用。如果它是负数，表示我们己经超过了这个约束条件。如果它是零，表示我们刚好达到这个约束条件。

以这样一组不等式为例来说明：

目标函数为：

其可行解域如下图所示：

两个约束线的交点，称为极点。有些极点在可行解域外（如F），予以忽略；有些在可行解域边界上，这样的就是可行极点(如ABDCE)。只要我们计算出所有可行极点处的目标函数值，取其中最大的，就能得到线性规划问题的最优解。

如何得到各个极点的坐标？

对每个约束方程引入一个不同的松弛变量，最终约束优化问题变为下面的形式：

在上述方程组中，加上松弛变量，共有6个变量，但是只有4个方程。该方程组是欠定的。

未知数个数和方程个数之差(本例中为2)直接关系到如何识别可行极点。

由于本例中未知数个数和方程个数之差为2，因此必须固定其中2个变量，令其为0，然后通过解方程组计算其余变量的值。这样就能得到其中一个极点。
例如，上述方程组中，我们令x1和s4为0，于是得到方程组：

可以解出：得到x2=6，S1=11，S2=32和S3=9。对应了极点E点。
同样，令x1和x2为0，对应A点；x1和S2为0，对应B点；S1和S2为0，对应C点；S1和S4为0，对应D点。
6个参数，两两参数为0，组合起来共有15种情况，对应15个点。但其中只有ABCDE的5个点是可行极点，其余的都是无效的极点。
如果计算所有的极点，必然导致效率较低。那么，能否只计算那些可行的极点？
答案是，当然可以。

如何计算那些可行的极点？
总结一下上面的过程，先设置n-m个变量为0，然后求解剩下的m个变量m个等式的方程组。这里，我们将取零值的变量一般称为非基本变量，其他m个变量称为基本变量。如果所有的基本变量是非负的，那么这个结果称为基本可行解。最优解就是这些基本可行解中的一个。

单纯形法 就是，先找到求出一个基本可行解，然后逐渐增加目标函数值，求出其他基本可行解，最终达到最优解，同时算法终止。

第一步，先找到一个基本可行解，令x1=x2=0，得到方程组：
$$\{\begin{array}{r}7x_1+11x_2+S_1=77\\ 10x_1+8x_2+S_2=80\\ x_1+S_3=9\\ x_2+S_4=6\end{array}$$
用高斯-约当法解方程组，得到解为：$S_1$=77，$S_2$=80，$S_3$=9和$S_4$=6。
目标函数可以表示为：
$$Z-150x_1-175x_2-0S_1-0S_2-0S_3-0S_4=0$$
目标函数值为：$Z=0$。

第二步，移动到一个能使目标函数值增大的新可行解。很明显，增加当前非基本变量〔在这里是x1和x2)的值，Z值就会增大。

这里定义：把一个非基本变量变成基本(非零)变量，这个变量称为“进基变量〔entering rrariable)”。在处理过程中，如果一个基本变量变成非基本(零值)变量，该变量则称为“退基变poleaxing variable) "。

一般把最大负数值系数的变量选择为进基变量，因为这常常能使Z值的增加量最大。在本例中，由于x1的系数-175比x2的系数-150更小，所以x2成为进基变量。

这里，选择x2成为进基变量。选择哪个为退基变量呢？
我们需要计算上一步中，等号右边的值与$x2$的系数的比值，其实就是当前方程组在$x2$轴上的截距：
$$\{\begin{array}{r}7x_1+11x_2+S1=77\\ 10x_1+8x_2+S2=80\\ x_1+S3=9\\ x_2+S4=6\end{array}$$

上述方程组的截距分别为：77/11=7；80/8=10；9/0=$\infty$；6/1=6；
其中，最小截距为S4为基本变量的这个方程，因此将S4作为退基变量。其实就是相当于在可行解域图中找到了$x_2$轴上的截距最小的那个点，就是E点。

第三步，x2成为进基变量，S4作为退基变量后，用S4的方程作为主元行，消去方程组其他方程中的$x_2$的系数，得到新的方程组：
$$\{\begin{array}{r}7x_1+11x_2+S1=77（不含x_2，未变）\\ 10x_1+S2-8S4=32（含x_2，消去x_2）\\ x_1+S3=9（不含x_2，未变）\\ x_2+S4=6（退基，主元行）\end{array}$$
同时也消去目标函数中的$x_2$的系数，得到目标函数为：
$$Z-150x_1-0x_2-0S_1-0S_2-0S_3+175S_4=1050$$
目标函数值为：$Z=1050$。

第四步，重复上面第二步和第三步的方法，直到目标函数行不存在为负数的系数，结束。此时就是最优解。
目标函数方程$Z-150x_1-0x_2-0S_1-0S_2-0S_3+175S_4=1050$中，系数为负值的只有x1了，因此选取x1作为进基变量。
计算截距，77/11=7，32/10=3.2，9/1=0，6/0=$\infty$；因此选第二个方程，S4已经是退基后的变量了，因此选S2作为退基变量。（此时，对应于可行解域图中D点。）
于是，用第二个方程作为主元行，消去$x_1$的系数，得到新的方程组，以及新的目标函数。

然后，再重复一次进基和退基之后，就能找到可行解域图中C点。然后消去得到新的方程组，以及新的目标函数后，目标函数中所有的系数都没有负数了，结束。此时，就得到最优解，就是在C点的位置。