从线性规划到单纯形法的求解

1. 线性规划的标准问题

首先来看线性规划的标准问题：

$$\begin{split} \min\quad &\mathbf{c^T} \cdot \mathbf{x}\\ s.t. \quad &\mathbf{A}\mathbf{x} =\mathbf{b},\\ &\, x_i \ge 0 \end{split}$$

$A\in \mathbb R^{m\times n}, \mathbf x\in \mathbb R^n, \mathbf c\in \mathbb R^n$，且要求 $Rank(A)=m$（$A$ 是行满秩矩阵）。

下面是一些基本概念的定义：

设 $\mathbf B$ 为 $\mathbf A$ 中任意非奇异的 $m\times m$ 阶子矩阵（$|\mathbf B|\neq 0$），则称 $\mathbf B$ 为此规划的一个基，令 $\mathbf B=\left(P_{j1},\ldots,P_{jm}\right)$，下标 $\{j1, j2,\ldots,jm\}\in \{1,2,\ldots, n\}$，对应的记 $x_B=\{x_{j1},x_{j2},\ldots, x_{jm}\}$ 为基变量，其余为非基变量。

令非基变量均为 0，则有：

$$Bx_b=b$$

一些概念：

• 基本解：$x_N=0, x_B=B^{-1}b$（这样记，由基构成的解）
• 可行解：若最终求得的向量 $x$ 满足约束，$Ax=b, x\geq 0$，这样的解为可行解（或叫容许解）；
• 基本可行解：同时满足基本解，可行解的解，也即 $x_N=0,x_B=B^{-1}b\geq 0$ 的为基本可行解；

2. 判别定理

$$Bx_B+Nx_N=b\\ \Downarrow\\ x_B=B^{-1}b-B^{-1}Nx_N$$

根据 $A=(B,N)$ 的拆分形式，对其做进一步的推导：

$$\begin{split} x_0=&c^Tx\\ =&(c_B^T,c_N^T)\begin{pmatrix}x_B\\ x_N\end{pmatrix}\\ =&c_B^Tx_B+c_N^Tx_N\\ =&c_B^TB^{-1}b-(c_B^TB^{-1}N-c_N^T)x_N \end{split}$$

因为 $c_B^TB^{-1}$ 常常出现，又进一步称其为单纯性子。对上式移项调整，进一步可得：

$$x_0+(c_B^TB^{-1}N-c_N^T)x_N=c_B^TB^{-1}b,\quad (c_B^TB^{-1}B-c_B^T)x_B=0\\ \Downarrow\\ x_0+(c_B^TB^{-1}B-c_B^T)x_B+(c_B^TB^{-1}N-c_N^T)x_N=c_B^TB^{-1}b\\ x_0+(c_B^TB^{-1}A-c^T)x=c_B^TB^{-1}b$$

设 $B$ 为线性规划的一个基，若 $B^{-1}b\ge 0$，且有 $c_B^TB^{-1}A-c^T\ge 0$，则对应于 $B$ 的基本解式必是线性规划问题的最优解。

• $B^{-1}b\ge 0$ ⇒ 基本可行解；
  • $c_B^TB^{-1}A-c^T\ge 0$ ⇒ $x_0\leq c_B^TB^{-1}b$

  • 3. 单纯形表

    单纯形表与基向量 $B$ 有关，

    $$T(B)=\begin{bmatrix} c_B^TB^{-1}b & c_B^TB^{-1}A-c^T\\ B^{-1}b & B^{-1}A \end{bmatrix}$$

    其中：

    • $c_B^TB^{-1}b$ 是标量；
    • $c_B^TB^{-1}A-c^T$ 是行向量；
    • $B^{-1}b$ 是列向量；
    • $B^{-1}A$ 是矩阵；