对偶理论入门

对偶理论入门介绍

        线性规划（Linear Programming,简称LP）是运筹学中研究较早、发展较快、应用广泛、方法较为成熟的一个重要分支，它是辅助人们进行科学管理的一种数学方法。研究线性约束条件下线性目标函数的极值问题的数学理论和方法。线性规划中普遍存在配对现象，即对每一个线性规划问题，都存在另一个与它有密切关系的线性规划问题，其中之一称为原问题，而另一个称它的对偶问题。这篇博客提到的对偶理论（Duality theory）就是研究线性规划中原始问题与对偶问题之间关系的理论。

        对偶理论自1947年提出以来，已经有了很大发展，现在关于线性规划的一般著作都包含这部分内容，它已成为线性规划的必不可少的重要基础理论之一。

1.1 对偶问题的表达

        线性规划中的对偶可以概括为三种形式。

(1)对称形式的对偶

        设原问题为：

                                         min  cx

                                         s.t.  Ax >= b,

                                                x>= 0

        则对偶问题为：

                                         max  wb

                                          s.t.   wA <= 0,

                                                  w>=0

        其中A=(p₁,....,p_n)是m*n矩阵，b=(b₁,......,b_m)^T是m维列向量，c=(c₁,.......,c_n)是n维行向量. x =(x₁,.......,x₂)^T是由原问题的变量组成的n维列向量，w=(w₁,......,w_m)是由对偶问题的变量组成的m维行向量。

        在原问题中，目标函数是c与x的内积，Ax>=b包含m个不等式约束，其中每个约束条件记作

                                         A_ix>=b_i. 

        A_i