强对偶性与KKT条件

强对偶性与KKT条件

1. 强对偶性：

强对偶性意味着原问题与对偶问题的最优值达到相等，没有对偶间隙。

强对偶性不总是成立（即使是对于凸问题）。凸问题usually (but not always)有强对偶性。
有很多条件使强对偶性成立，这些条件称为constraint qualifications.
其中之一就是Slater’s condition:(Slater condition 是凸问题强对偶性成立的充分条件)

2. 非凸问题也可能有强对偶性

非凸问题也可能有强对偶性(即原问题的解与对偶问题的解 最优值相同)
例子：

3.互补松弛

4.强对偶的性质

书中这样说：对于任何满足强对偶性的函数可微的优化问题(不管是凸的还是非凸的)，最优点满足KKT条件(any pair of primal and dual optimal points must satisfy the KKT conditions.)

5. 最优点与KKT易混淆的点：

1)如果原问题是凸问题:

A.当KKT有解时：
满足KKT的点----推出----最优点(primal and dual optimal)和且满足强对偶性
（即说明KKT条件是最优点的充分条件）
B.KKT条件无解:
原问题不满足强对偶性。

2)进一步，如果原问题是凸的且满足强对偶性，那么KKT条件是最优点的充分必要条件。

3)如果优化问题满足强对偶性，不管凸或非凸，最优点都满足KKT条件；反之，满足KKT条件的点，只有在原问题是凸时，才是最优点。

6.附上Boyd书中关于KKT的描述：

水平有限，烦请指正。
参考‘’Convex optimization‘’