线性规划的理论基础

　　本文先解决一个约束下线性问题求解极值的理论推导过程，其余的拓展在后面的文章中介绍。

一个极值问题

　　对于下述问题，我们怎么搞定它。
　　

$min f(x)=c^Tx$
　　 $s.t. Ax=b; m个约束;$
　　 $x \geqslant 0; 共m+n个变量;$
　　稍微详细描述一下上面的问题，如下：
　　 $min f(x) = \begin{bmatrix}c_1 \\c_2 \\... \\c_{m+n} \\\end{bmatrix}^T*\begin{bmatrix}x_1\\ x_2\\ ...\\ x_{m+n} \\\end{bmatrix}$
　　 $s.t. \begin{bmatrix}A_{11} & A_{12} & ... & A_{1n} \\ A_{21} & A_{22} & ... & A_{2n}\\ ... & ... & ... & ... \\A_{m1} & A_{m2} & ... & A_{mn} \\ \end{bmatrix}*\begin{bmatrix}x_1\\ x_2\\ ...\\ x_n\end{bmatrix}=\begin{bmatrix}b_1\\ b_2\\ ...\\ b_m\end{bmatrix}$
　　 $x_1 \geqslant 0; x_2 \geqslant 0, ... , x_{m+n} \geqslant 0$

变形

　　若是约束为大于等于0，也是可以直接按照等式处理的(线性问题的最值出现在边界上，故可将不等式化为等式)
　　假设$A=[B, N]$
　　其中$\left\{\begin{matrix}B=[P_1, P_2, ..., P_m]为基矩阵\\N=[P_{m+1}, P_{m+2}, ..., P_{m+n}]为非基矩阵\end{matrix}\right.$
　　假设$x = \begin{bmatrix} x_B \\ x_N \end{bmatrix}$
　　其中$\left\{ \begin{matrix} x_B = [x_1, x_2, ..., x_m] 为基向量\\x_N = [x_{m+1}, x_{m+2}, ...., x_{m+n}] 为非基向量\end{matrix} \right.$
　　其中，基向量由约束系数矩阵中列向量线性无关的列对应的变量组成。
　　假设$c^T=[c_B^T, c_N^T]$
　　则由$Ax=b$
　　可得$[B, N] * \begin{bmatrix} x_B \\ x_N \end{bmatrix}=b=B*x_B + N*x_N$
　　得到$x_B = B^{-1}(b-N*x_N)=B^{-1}b-B^{-1}N*x_N$
　　将目标函数变形：
　　$f(x)=c^T*x=[c_B^T, c_N^T]*\begin{bmatrix} x_B \\ x_N \end{bmatrix}=c_B^T*x_B + c_N^T*x_N$
　　带入$x_B$得到：
　　$=c_B^T*(B^{-1}b-B^{-1}N*x_N) + c_N^T*x_N$
　　$=c_B^T*B^{-1}b-c_B^T*B^{-1}N*x_N + c_N^T*x_N$
　　$=c_B^T*B^{-1}b + (C_N^T-c_B^T*B^{-1}N)*x_N$
　　于是将问题变为如下形式：
　　

$f(x)=c_B^T*B^{-1}b + (C_N^T-c_B^T*B^{-1}N)*x_N$
　　 $s.t. x_B = B^{-1}(b-N*x_N)=B^{-1}b-B^{-1}N*x_N$
　　 $x \geqslant 0$
　　 上面的式子不方便计算和理解，再次对其进行表示。
　　假设四个式子表示如下：
　　 $f_0 = c_B^T*B^{-1}*b$非基向量为0时，由基向量求得。
　　 $B^{-1}*b=b' = [b'_1, b'_2, ..., b'_m]$
　　 $\sigma_N = C_N^T - C_B^TB^{-1}N=[\sigma_{m+1}, \sigma_{m+2}, ..., \sigma_{m+n}]$
　　 B−1N=⎡⎣⎢⎢⎢⎢⎢a′1,m+1a′2,m+1...a′m,m+1a′1,m+2a′2,m+2...a′m,m+2............a