运筹学第一章：线性规划【复习自用】

学书才浅

已于 2023-06-06 18:32:44 修改

阅读量2.1k

点赞数 5

文章标签：算法机器学习人工智能

于 2023-03-15 22:59:19 首次发布

本文链接：https://blog.csdn.net/weixin_51772802/article/details/129268934

版权

标题~

对于以后期末复习
线性规划
问题
- - 4.3 两阶段法
问题
问题
单纯形法应试

第一张主要讲了线性规划问题，并介绍了两种求解方法：
图解法、单纯形法

对于以后期末复习

知道单纯性表法和两阶段法的区别
知道单纯形表的几种情况【唯一解、多解、无解】
会算检验数
弄清楚基本解可行解最优解退化解

线性规划

指在一定的线性约束条件下，求一个线性函数的极值问题

写在前面：名词解释及关系

线性规划（LP）问题

$\begin{array}{c} \min S=\boldsymbol{C} \boldsymbol{X} \\ \text { s. t. }\left\{\begin{array}{l} \boldsymbol{A} \boldsymbol{X}=\boldsymbol{b} \\ \boldsymbol{X} \geqslant \boldsymbol{0} \end{array}\right. \end{array}$
在这里插入图片描述
min对应 $\geqslant$ 【在第一章好像还没找到对应的部分，但是做题是这样的】

可用这一向量形式表示的问题

可行解

满足上述线性规划问题条件的所有解 $\boldsymbol X$

最优解

可行解中满足条件 $\min S=\boldsymbol{C} \boldsymbol{X}$ 的解

基本解

在这里插入图片描述
在2.2中 $X=\left(\begin{array}{l} B^{-1}b \\ 0\end{array}\right)$ 是基 $B$ 的基本解

可行基/基本可行解

若 $B^{-1}b\geqslant 0$ ，则称 $B$ 为可行基， $X=\left(\begin{array}{l} B^{-1}b \\ 0\end{array}\right)$ 为基本可行解

定理：基本解与基本可行解

若X中非零分量所对应的列向量线性无关，则 X是(LP) 的一个基本可行解

最优基/最优基本可行解

若 $B^{-1}b\geqslant 0$ 且 $C-C_BB^{-1}A\geqslant0$ ，则称 $B$ 为最优基， $X=\left(\begin{array}{l} B^{-1}b \\ 0\end{array}\right)$ 为最优基本可行解

最优性判别定理

在这里插入图片描述

退化/非退化基本可行解

若 $B^{-1}b$ 中至少有一个分量为 0，则称该基本可行解为退化基本可行解。
例如：在这里插入图片描述

凸组合

设 $\boldsymbol{X}_{1}, \boldsymbol{X}_{2}, \cdots, \boldsymbol{X}_{k}$ 是 $\mathbf{R}^{n}$ 中已知的 $k$ 个点, 若对于某点 $\boldsymbol{X} \in \mathbf{R}^{n}$ , 存在非负常数 $\lambda_{1}, \lambda_{2}, \cdots, \lambda_{k}$ , 使得

$\boldsymbol{X}=\sum_{i=1}^{k} \lambda_{i} \boldsymbol{X}_{i}, \quad \text { 且 } \sum_{i=1}^{k} \lambda_{i}=1$

则称 $\boldsymbol{X}$ 是 $\boldsymbol{X}_{1}, \boldsymbol{X}_{2}, \cdots, \boldsymbol{X}_{k}$ 的凸组合.

在这里插入图片描述

凸集

在这里插入图片描述

极点

设 $\boldsymbol{X}$ 是凸集 $D$ 中的一点，如果 $\boldsymbol{X}$ 不能表示为 $D$ 中两个相异点的凸组合，则 $\boldsymbol{X}$ 称为 $D$ 的极点.

如：多面体极点，球体球面上的点。

定理：极点与基本可行解

在这里插入图片描述

典式

对于每一个基本可行解，线性规划问题都有一个典式。
按照2.2的推导过程，可得到典式
在这里插入图片描述
按照上述方法展开，可以得到典式的另一种表达形式：

注意细节：表达规范，如max/min

典式指的应该就是，能找出一组单位向量【与列向量数目相同】的式子？】

单纯形表

按照上面的【展开后的】典式表达，单纯形表长这样：
在这里插入图片描述
其中第0行的-S因为在迭代中不会变化，因此省略

注意做题规范

应当保证单纯性表中的基向量第零行对应系数为0，若不为0，需要进行行间的加减操作。
同时应该保证第 $i$ 行的基向量 $x_j$ 所对应列只有第 $i$ 个数为1，其他为0
$c_j$ 是第零行 $x_j$ 对应系数。

1 线性规划的标准形式

$\begin{array}{c} \min S=c_{1} x_{1}+c_{2} x_{2}+\cdots+c_{n} x_{n} \\ \text { s. t. }\left\{\begin{array}{c} a_{11} x_{1}+a_{12} x_{2}+\cdots+a_{1 n} x_{n}=b_{1} \\ a_{21} x_{1}+a_{22} x_{2}+\cdots+a_{2 n} x_{n}=b_{2} \\ \vdots \\ a_{m 1} x_{1}+a_{m 2} x_{2}+\cdots+a_{m n} x_{n}=b_{m} \\ x_{1} \geqslant 0, x_{2} \geqslant 0, \cdots, x_{n} \geqslant 0 \end{array}\right. \end{array}$

式中 $b_{i}, c_{j}, a_{i j}$ 为实常数, 且 $b_{i} \geqslant 0$ ;
$x_{j}$ 一一要求的一组变量.
写成向量形式，有
$\begin{array}{c} \min S=\boldsymbol{C} \boldsymbol{X} \\ \text { s. t. }\left\{\begin{array}{l} \boldsymbol{A} \boldsymbol{X}=\boldsymbol{b} \\ \boldsymbol{X} \geqslant \boldsymbol{0} \end{array}\right. \end{array}$

为了将线性约束转为标准形式，需要进行一些转换，如：

将求极大转化为求极小：取负号
将不等式转化为等式：引入松弛变量 $y_i\geqslant 0$ ；剩余变量 $y_l\geqslant 0$
- 大于等于
  $a_{i 1} x_{1}+a_{i 2} x_{2}+\cdots+a_{i n} x_{n} \leqslant b_{i}$
  化为
  $a_{i 1} x_{1}+a_{i 2} x_{2}+\cdots+a_{i n} x_{n}+y_{i}=b_{i}$
- 小于等于
  $a_{l 1} x_{1}+a_{l 2} x_{2}+\cdots+a_{l n} x_{n} \geqslant b_{l}$
  化为
  $a_{l 1} x_{1}+a_{l 2} x_{2}+\cdots+a_{l n} x_{n}-y_{l}=b_{l}$
将自由变量化为非负变量
如某个变量 $x_k$ 没有大小要求，则称之为自由变量，用两个非负变量相减代替之
$x_k=x_k'-x_k'',x_k'\geqslant0,x_k''\geqslant0$

2 线性规划问题的求解

在以后的讨论中，我们都假定 $A$ 的秩为m (自然m≤n)．我们从 $A$ 的n列中选出m个线性无关的列组成一个m阶矩阵。【为了表达方便起见，假定选择的是 $A$ 的前m列，并且用 $B$ 表示这个矩阵，于是 $B$ 是非奇异的，称为（LP)的一个基】

2.1 分解约束条件

令
在这里插入图片描述
重写线性规划问题，有

【非基 $X_N$ 可以用基 $X_B$ 表示因此可令其为0，基不唯一】

2.1.1 定义

在这里插入图片描述
定义见上方

2.2 分解目标函数

相对应的对 $C$ 进行分解，在这里插入图片描述

2.2.1 定义最优基

在这里插入图片描述

在这里插入图片描述
注意这里的等效

2.3 概念区分

在这里插入图片描述

3 图解法及集合理论

3.1 解法

高中知识，略

在这里插入图片描述

3.2 几何理论

在这里插入图片描述 推论1 若凸集 D={X|AX=b,x>0}非空，则它至少有一个极点.
推论2 如果一个线性规划问题有有限的最优解，则必有一个最优解是 D的极点

在这里插入图片描述

Q：极点和顶点的区别？

Q：线性规划问题的任一可行解都可以用全部基可行解的线性组合表示这句话为什么错了

根据定理1—4，X可以由凸集顶点的凸组合表示，那更能被基可行解线性表示吧

4 单纯形法

在这里插入图片描述

线性规划问题的目标函数的最小值（或最大值) 一定在基本可行解(即极点）上达到。所以，在寻找最优解时，只需要考虑基本可行解就够了。
单纯形法的基本思想是从一个基本可行解出发，转移到另一个目标函数值更小的基本可行解
如此逐次转移下去，当目标函数值不能再减小，即满足最优性条件: $C-C_BB^{-1}A≥0$ 时，计算结束,得到最优基本可行解。

4.1 求一个可行解

4.2 从可行解迭代求出最优解

迭代原理【方法的关键，有助于理解】

由最优性判别原理，
(1) 若 $y_{0 j} \geqslant 0, j=m+1, \cdots, n$ 根据最优性判别定理, $\boldsymbol{X}^{0}$ 是最优解.
(2) 若有某些检验数 $y_{0 j}$ 是负的, 例如设 $y_{0q}<0, m+1 \leqslant q \leqslant n$ ，这时 $\boldsymbol{X}^{0}$ 不是最优解.

因为此时还可以下降
【1-17】在上面的“典式”的定义中

✨✨✨迭代方法：进基、换基、出基

检验数【检验 $X^0$ 是不是最优解】：若 $C-C_{B} B^{-1} A \geq 0$ 或 $C_{N}-C_{B} B^{-1} N \geq 0$ ,
即非基变量 $x_{j}$ 的检验数 $y_{0 j}=c_{j}-C_{B} B^{-1} p_{j}$ 都 $\geq 0$ , 则 $X^{0}$ 是最优解。
——也就是说，如果有一个检验数 $y_{0 j}<0$ 的话，这个检验数就具备了“出基”的条件
，如果有不止一个负检验数，则有两种方法确定进基变量：

在这里插入图片描述
翻译翻译就是：采用Bland规则，算出来的检验数中，最负的 $y_{0q}$ 对应的那一列 $x_q$ 进基。

问题

请结合做题时检验数的求解，说人话：比如检验数怎么算，多个负检验数时怎么办
一般检验数不会写在单纯性表里，而是写在草稿纸上。。。。吗？？？

进基：接上文， $x_{q}$ 由非基变量变为基变量。

出基：同时原基变量中必有一个 $x_i$ 从取值为 1 的基变量变为取值为 0 的非基变量

选取方式：求出最小比值 $x_{q}=y_{p 0} / y_{p q}$ 所在行。原基变量 $x_{p}$ 变为 $0$ , 有三种情况：
在这里插入图片描述

在这里插入图片描述
第三种情况：无穷多最优解

换基：在这种情况下，由 负检验数 $y_{0q}$ 所对应的非基变量 $x_q$ 代替原基变量 $x_p$ 成为新的基变量。
此时新基变量系数为1，检验数为0【第p列只有一个位置是1，其他都是0】

通过行加减实现

4.3 两阶段法

Q：何时使用两阶段法？
A：取决于标准型是不是典式

在这里插入图片描述

第一阶段

建立辅助(LP)，求出原(LP)的一个初始基本可行解。
具体方法：加入m个人工变量，手动变成典式，然后用单纯形法求解
例如：
在这里插入图片描述
注意，加入了 $y_i$ 变量，并且求的值变成了y的求和的最小值

辅助(LP)的最优解与原(LP)的初始基本可行解的关系：

$\text { 若 } Z^{*}=\sum_{i=1}^{m} y_{i}^{*}>0 \text {, 则原 }(L P) \text { 无可行解。 }$
证明
$\text { 若 } Z^{*}=\sum_{i=1}^{m} y_{i}^{*}=0 \text {, 则原 }(L P) \text { 有一个初始基本可行解。 }$

所以在最后做题时，每一步单纯形法要让一个y作为出基变量，有几个y至少迭代几轮。

做题方法

在这里插入图片描述

这样，我们最终得到了一个基本可行解 $X^*$

第二阶段

结合上一步得到的基本可行解 $X^*$ ，再用单纯形法去求原LP的最优解

问题

这一步具体是怎么样的？在单纯表中是怎么用上的基本可行解的
——在辅助 (LP) 的最优表中删去人工列及检验数行
补上原 (LP)的检验数行
Q：怎么补，检验数行怎么求【跟上一个问题重复了】

问题

在这里插入图片描述
在第二章看到了这个式子,线性规划的标准型是什么样的?

单纯形法应试

必看好题

1-6（1）【无穷情况】；1-6（3）【 $y_{0j}$ 的确定，记得常数项也要带上，【由于要放到等式另一边，带上负号】，基变量的价值一定是0！】 1-7（3）

标准化

在这里插入图片描述
可以用

形式
$\begin{array}{l} \max z=\sum_{j=1}^{n} c_{j} x_{j} \\ \text { s.t. }\left\{\begin{array}{l} \sum_{j=1}^{n} a_{i j} x_{j}=b_{i} \\ x_{j} \geq 0 \\ 0 \end{array} \quad(i=1,2, \ldots, m)\right. \end{array}$
如：
$\begin{array}{l} \min z=x_{1}+2 x_{2}+3 x_{3} \\ \text { s.t. }\left\{\begin{array}{l} -2 x_{1}+x_{2}+x_{3} \leq 9 \\ -3 x_{1}+x_{2}+2 x_{3} \geq 4 \\ \quad 4 x_{1}-2 x_{2}-3 x_{3}=-6 \\ x_{1} \leq 0, x_{2} \geq 0, \quad x_{3} \text { 取值无约束 } \end{array}\right. \end{array}$
标准化之后：
$\begin{array}{l} \max z^{\prime}=x_{1}^{\prime}-2 x_{2}-3 x_{3}^{\prime}+3 x_{3}^{\prime \prime}+0 x_{4}+0 x_{5} \\ \text { s.t. }\left\{\begin{array}{l} 2 \mathrm{x}_{1}^{\prime}+\mathrm{x}_{2}+\mathrm{x}_{3}^{\prime}-\mathrm{x}_{3}^{\prime \prime}+\mathrm{x}_{4}=9 \\ 3 x_{1}^{\prime}+x_{2}+2 x_{3}^{\prime}-2 x_{3}^{\prime \prime}-x_{5}=4 \\ 4 \mathrm{x}_{1}^{\prime}+2 \mathrm{x}_{2}+3 \mathrm{x}_{3}^{\prime}-3 \mathrm{x}_{3}^{\prime \prime}=6 \\ \mathrm{x}_{1}^{\prime}, \mathrm{x}_{2}, \mathrm{x}_{3}^{\prime}, x_{3}^{\prime \prime}, x_{4}, x_{5} \geq 0 \end{array}\right. \end{array}$

单纯形法

说理解：找到初始基可行解，验证是否最优。验证方法是判断检验数是否全为非正。
若检验数有正数，说明选择该变量可以使系统价值增加【价值比当前基变量组合要高】，选择最大的检验数。这一过程确定了入基变量
为了确定出基变量，判断“对于每一行，如果新入基变量与此行原基变量替换，能换走几个原基变量，选择换的最少的【要求是正数】”【原因是：把出基变量确定为第一个消耗到零的原基变量】