AOR3 对偶理论

1 如何写出一个问题的对偶问题

1,对偶变量和原问题变量的对应性：

对于对原变量的每一个线性表达式，都对应一个对偶变量。

2.将该线性表达式的权值看成对偶变量yi，对于yi的约束为：

所有式子xj的系数按照权值yi相加，与原问题表达式xj系数比较。

注意： 以下都是假设原问题是max的条件，如果原问题是min，需要把x加上符号，因此x>0其实是x<0, x<0 其实是x>0

比较方法：

原问题条件	对偶问题限制
$x_j\ge 0$	$\sum a_i{y}_i\ge 0$
$x_j\le 0$	$\sum a_i{y}_i\le 0$
$x_j$无限制	$\sum a_i{y}_i=0$

总之就是和原问题相同。

对于对偶问题变量，和原问题的相反，具体如下:

原问题条件	对偶问题限制
$\sum a_j{x}_j\ge 0$	$y_i\le 0$
$\sum a_j{x}_j\le 0$	$y_i\ge 0$
$\sum a_j{x}_j$无限制	$y_i=0$

目标函数是常数系数乘以权值求和，
原来的max变为min，min变为max

例如：$\max z=c{x}_1$

$a_1{x}_1+a_2{x}_2+a_3{x}_3\le b_1$
$a_4{x}_1+a_5{x}_2+\le b_2$
$x_1,x_2\ge 0$

首先每个式子设置权值y1,y2

原式	权值
$a_1{x}_1+a_2{x}_2+a_3{x}_3\le b_1$	$y_1$
$a_4{x}_1+a_5{x}_2\le b_2$	$y_2$

然后计算x1产生的约束，两个式子中x1系数乘权值之和与目标函数中x1系数比较，由于x1大于0, 因此大于目标函数系数:

$a_1{y}_1+a_4{y}_2\ge c$

然后计算x2产生的限制：

$a_2{y}_1+a_5{y}_2\ge 0$

x3产生的限制:

$a_3{y}_1=0$

计算对y的约束：由于两个式子都是小于号，因此$y_1,y_2\ge 0$

目标函数为：$\min z=y_1{b}_1+y_2{b}_2$

2 关于强弱对偶的理解

一个问题有三种可能：

• 目标函数有界(max有上界，min有下界)
• 目标函数值无界(max无上界，min无下界)
• 无可行解(约束本身有矛盾)

其中前两种都是有可行解的，但是只有第一种有最优解。第二种可行但是没有可行解。

弱对偶性

原问题目标函数值一定小于对偶问题目标函数值。

推论

根据原问题的三种情况：

原问题的解情况	对偶问题解的情况
有最优解	可行，且下界就是原问题最优解
目标函数无界	无可行解
没有可行解	无界或者无可行解

证明： $c^{T}x\le (A^{T}y{)}^{T}x\le y^{T}Ax\le y^{T}b$

强对偶性

如果原问题和对偶问题都有可行解，则

1: 它们均有最优解，

2: 最优解目标函数值相等

证明：

对于1，由弱对偶性推论可以得出

对于2，不妨设存在可行解为$\hat{x},\hat{y}$

则有:

$c^T\hat{x}=(A^T\hat{y}{)}^T\hat{x}={\hat{y}}^{T}b$

根据最优性可知，该可行解即是最优解，且目标函数值相等。(证明好像有点问题)

最优性

如果原问题和对偶问题都存在可行解，且目标函数值相等，则该可行解即最优解。

证明: 设该对可行解为$\hat{x},\hat{y}$

有: $c^T\hat{x}=b^T\hat{y}$

由弱对偶性可知，$b^T\hat{y}$是原问题目标函数上界，因此$b^T\hat{y}$为原问题最优解的目标函数值。同理$c^T\hat{x}$是对偶问题最优解的目标函数值。

问题

1.对偶问题的目标函数为什么是y的转置，而且是左乘b, 看起来很怪异。

目标函数最后是一个值(标量)，因此转置以后值不变。

$w=w^T=(y^{T}b{)}^T=b^{T}y$，和原问题目标函数一致。

之所以写成这样，是为了和后面的定理匹配，如果写成$b^{T}y$完全可以。

2.如何记忆强弱对偶定理

原问题有最优解
根据弱对偶定理，可以推出 对偶问题可行
根据强对偶定理，可以推出对偶问题有最优解。

原问题可行，但是目标函数无界
根据弱对偶定理，可以推出对偶问题不可行。

原问题不可行，根据弱对偶定理，可以推出对偶问题无界或者不可行。