最优化技术——单纯形法

最优化技术——单纯形法

说明

这个文章的大部分内容（几乎全部）都来自于我最优化课程的课程笔记。主要来源是重庆大学文静老师的PPT，个人主要用于整理、归纳，如果有侵权等问题，我会在第一时间将博客撤销。

单纯形法的流程介绍

直观的去看这个流程，有一点点像前面的一些函数的优化方法。但是在枚举的过程中，有一些问题值得关注：

• 枚举的起点？
• 如何判断当前已经是最优解了？
• 如何在当前解的前提下找到一个更好的解？

单纯形法的迭代原理

通过一个例子来讲解单纯形法的基本原理

我们这样一个线性规划问题：

因为这里主要讨论单纯形法，所以我们不再纠结怎么化成标准型。

1. 选择初始基，确定基本可行解

   这里使用的是观察法(我：？？？)，观察系数矩阵中是否含有现成的单位阵，如果有的话就直接用现成的单位阵作为基。

   在这里我们选定的基变量为：$$(x_3,x_4,x_5)$$

   选定的基矩阵为单位矩阵$$I_3$$

   找到的基本可行解：

   $$\left[\begin{array}{c}{x}_B\\ x_N\end{array}\right]=\left[\begin{array}{c}{B}^{-1}b\\ 0\end{array}\right]$$

   即：$$x_1,x_2,x_3,x_4,x_5=0,0,8,16,12$$

   Q:为什么要找单位阵?

   A:我们都学过《线性代数》，线代告诉我们，一个矩阵能够被化作单位矩阵和这个矩阵可逆是等价的，有根据上一节讲的，在求解过程中需要对基去逆，所以综上所述，需要找一个单位阵/可以化成单位阵的。

2. 判断当前解是否为最优解

   将基变量使用非基变量表示，使用非基变量表示目标函数。

   $$x_3=8-x_1-2x_2$$

   $$x_4=16-4x_1$$

   $$x_5=12-4x_2$$

   $$Z=2x_1+3x_2$$

   我们的非基变量向上增加，目标函数$$Z$$的值也是增加的，所以说现在的基本可行解的取值不是最优的。那么什么时候它的取值才是最优的呢？

   当非基变量的值增加，而目标函数的值不增加的时候，就是最优的。

   也就是说当目标函数中的系数也就是检验数都小于等于0时，就是最优解，这里包括两种情况：

   • 检验数为0 ： 是最优解，但并不是唯一的最优解，表示存在无数个最优解
   • 检验数为1：是唯一的最优解

3. 如何转到下一个基本可行解

   回到我们的目标函数：

   $$Z=2x_1+3x_2$$

   从这个目标函数中我们可以看出，$x_2$对目标函数的贡献比$x_1$大。要让$x_2$的取值从0变成正值，所以$x_2$从非基变量转为基变量，称作进基变量。

   这里就有一个问题，有一个变量从非基变量变成基变量，就意味着会有一个基变量变成非基变量，这个变成非基变量的变量叫做离基变量。

   离基变量的选择：

   这里我们需要回到用非基变量表示基变量的那一步：

   $$x_3=8-x_1-2x_2$$

   $$x_4=16-4x_1$$

   $$x_5=12-4x_2$$

   那么在挑选离基变量的时候，我们将收敛的最快的（当进基变量增大时，最先到0的）拿出去。

   按照这个方法，我们新的基变量是$(x_2,x_3,x_4)$，非基变量是：$(x_1,x_5)$

   然后再回到第一步开始检验，直到得到最优解为止。

单纯形表

单纯形表的构建

这里我们不再关注怎么加松弛变量之类的问题了

单纯形表中：

• $X_B$：表示当前的基变量，初始挑选单位阵为初始基，构成向量B

• $C_B$：代表当前基变量在目标函数中的系数向量

• $b_j$：代表约束条件的右端的b值

• $c_j$：代表目标函数的系数，在这里$$c=（3，4，0，0）$$

• $x_1,x_2...$下面的数字：约束条件的系数矩阵

• ${\sigma }_j$：检验数，$${\sigma }_j=c_j-\Sigma c_i{a}_{ij}$$ ，这里的$a_{ij}$是系数矩阵

  以${\sigma }_1$为例，${\sigma }_1=3-(2\ast 0+1\ast 0)=3$

找到入基变量

方法：找检验数最大的，再上一张表里面，$x_2$的检验数最大，所以将作为入基变量

找到出基变量

方法：找$\theta$，我们顺着上面来，我们现在确定了$x_2$就是所谓的入基变量，下面，开始计算：

$$\theta =\frac{b_j}{x_2}$$

在上面的表中，$${\theta }_3=40,{\theta }_4=10$$

值得注意的是：当$x_2$的值为负值的时候，就不需要求$\theta$了。

到此为止，谁的$\theta$值越小就选谁当出基变量

总体操作

找到入基变量，出基变量之后，列一张新的单纯形表，并且以此往复即可。当所有非基变量都为负数或零时停止，这时最优解就是：基变量取得到的值，非基变量取0.