拉格朗日对偶性
对偶性是解决凸优化问题的核心内容
1.原始问题
原始问题形式如下:
min x f 0 ( x ) s . t f i ( x ) ≤ 0 , i = 1 , … , m h j ( x ) = 0 , j = 1 , … , p \underset{x}{\min}\qquad f_0(x)\\ s.t\qquad{f_i(x)\le0,i=1,\dots,m}\\ h_j(x)=0,j=1,\dots,p xminf0(x)s.tfi(x)≤0,i=1,…,mhj(x)=0,j=1,…,p
事实上在求解对偶问题时,不一定要求原始问题一定是凸问题,f和h可以是一般函数而非凸函数。
2.拉格朗日函数:
拉格朗日函数定义为:
L ( x , λ , v ) = f 0 ( x ) + ∑ i = 1 m λ i f i ( x ) + ∑ j − 1 p v j h j ( x ) L(x,\lambda,v)=f_0(x)+\sum_{i=1}^m\lambda_if_i(x)+\sum_{j-1}^pv_jh_j(x) L(x,λ,v)=f0(x)+i=1∑mλifi(x)+j−1∑