强对偶性与KKT条件
1. 强对偶性:
强对偶性意味着原问题与对偶问题的最优值达到相等,没有对偶间隙。
强对偶性不总是成立(即使是对于凸问题)。凸问题usually (but not always)有强对偶性。
有很多条件使强对偶性成立,这些条件称为constraint qualifications.
其中之一就是Slater’s condition:(Slater condition 是凸问题强对偶性成立的充分条件)
2. 非凸问题也可能有强对偶性
非凸问题也可能有强对偶性(即原问题的解与对偶问题的解 最优值相同)
例子:
3.互补松弛
4.强对偶的性质
书中这样说:对于任何满足强对偶性的函数可微的优化问题(不管是凸的还是非凸的),最优点满足KKT条件(any pair of primal and dual optimal points must satisfy the KKT conditions.)
5. 最优点与KKT易混淆的点:
1)如果原问题是凸问题:
A.当KKT有解时:
满足KKT的点----推出----最优点(primal and dual optimal)和且满足强对偶性
(即说明KKT条件是最优点的充分条件)
B.KKT条件无解:
原问题不满足强对偶性。
2)进一步,如果原问题是凸的且满足强对偶性,那么KKT条件是最优点的充分必要条件。
3)如果优化问题满足强对偶性,不管凸或非凸,最优点都满足KKT条件;反之,满足KKT条件的点,只有在原问题是凸时,才是最优点。
6.附上Boyd书中关于KKT的描述:
水平有限,烦请指正。
参考‘’Convex optimization‘’