UA SIE545 优化理论基础4 对偶理论简介5 对偶的几何解释
前四讲我们建立了弱对偶与强对偶的概念与理论,这一讲我们试图从直观上理解对偶。
强对偶的几何解释
考虑下面的优化
min ( x − 2 ) 2 s . t . x ≥ 0 \min (x-2)^2 \\ s.t. x \ge 0 min(x−2)2s.t.x≥0
从几何上,这个优化想在数轴的非负半轴找一个距离 x = 2 x=2 x=2最近的点。下面我们写出对偶问题,
θ ( u ) = inf { ( x − 2 ) 2 − u x : x ≥ 0 } = − ( u + 2 ) 2 + 4 \theta(u)=\inf \{(x-2)^2-ux:x \ge 0\}=-(u+2)^2+4 θ(u)=inf{
(x−2)2−ux:x≥0}=−(u+2)2+4
取得inf的 x x x满足 x = u + 2 x=u+2 x=u+2,因此对偶问题为
max u ≥ 0 θ ( u ) = max u ≥ 0 [ − ( u + 2 ) 2 + 4 ] \max_{u \ge 0} \theta(u) = \max_{u \ge 0}[-(u+2)^2+4] u≥0maxθ(u)=u≥0max