10 Lagrangian Duality
10.1 Lagrangian Relaxation
考虑如下整数规划问题(IP):
其中,
A
x
≤
b
Ax\le b
Ax≤b表示的是复杂的约束,而“好”的约束(例如网络流约束)被包含在了
x
∈
X
x\in X
x∈X中。它的拉格朗日松弛问题是:
其中,
u
u
u被称为价格或者对偶变量或者拉格朗日乘子。
因为每个拉格朗日松弛问题都是原整数规划问题的一个上界,所以为了找到最好的(也即最小的)上界,我们需要求解如下拉格朗日对偶问题:
何时拉格朗日松弛问题的最优解是原整数规划问题的最优解?
10.2 The Strength of the Lagrangian Dual
以下定理准确地告诉我们从对偶中获得的界有多强。
在某些情况下,它并不比线性松弛强:
也即求解拉格朗日松弛问题和求解线性松弛问题是等价的。
10.3 Solving the Lagrangian Dual
用次梯度算法求解上述问题:
关于如何选取步长:
一般来说次梯度算法需要的迭代次数很多,bundle methods提供了一种减少迭代次数的途径,它的想法是:
(1)使用近几次的次梯度,更好地利用信息;
(2)限制子问题的解
x
(
u
)
x(u)
x(u)的范围