线性规划中的对偶理论

1.线性规划

求线性目标函数在线性约束条件下的最大(或最小)值问题，统称为线性规划问题。

满足所有约束条件的一组变量组成的解, 就称为该线性规划的一个可行解，所有可行解构成的集合称为该线性规划的可行域.

线性规划普遍存在配对现象, 即对每一个线性规划问题, 都存在另一个与它有密切关系的线性规划问题. 前者称为原问题, 后者称为对偶问题.

2.对称形式的对偶

线性规划中的对偶有多种形式, 现在讨论一下对称形式的对偶.

• 原问题
  $$\begin{align} \min &\ \ \mathbf c\mathbf x \\ s.t. &\ \ \mathbf A\mathbf x\ge \mathbf b \\ &\ \ \mathbf x \ge \mathbf 0 \end{align} \tag 1$$
• 对偶问题
  $$\begin{align} \max &\ \ \mathbf w\mathbf b \\ s.t. &\ \ \mathbf w\mathbf A\le \mathbf c \\ &\ \ \mathbf w \ge \mathbf 0 \end{align} \tag 2$$
  各个矩阵的尺寸见下:

matrix	size
c	1*n
x	n*1
A	m*n
b	m*1
w	1*m

可以看到原问题约束条件的个数等于对偶变量的个数. 原问题中变量的个数等于对偶问题中约束条件的个数.

3.对偶定理

设$\mathbf w^{(0)}$和$\mathbf x^{(0)}$分别是原问题(式1)与对偶问题(式2)的可行解, 则

$$\mathbf c \mathbf x^{(0)} \ge \mathbf w^{(0)} \mathbf b \tag 3$$
互为对偶的两个问题, 任何一个问题的任何一个可行解处的目标函数值都给出另一个问题的目标函数的界.
式3的证明如下:
$$\begin{align} & \because \mathbf A \mathbf x^{(0)} \ge \mathbf b , \mathbf w^{(0)} \ge \mathbf 0\\ & \therefore \mathbf w^{(0)} \mathbf A \mathbf x^{(0)} \ge \mathbf w^{(0)} \mathbf b \\ & \because \mathbf w^{(0)}\mathbf A\le \mathbf c, \mathbf x^{(0)} \ge \mathbf 0\\ & \therefore \mathbf w^{(0)} \mathbf A \mathbf x^{(0)} \le \mathbf c \mathbf x^{(0)} \\ 综上得出(式3). \end{align}$$