KKT条件介绍

咖喱飞饼手抓饭

已于 2022-04-17 19:50:33 修改

阅读量904

点赞数 2

分类专栏：凸优化文章标签：图像处理算法

于 2022-04-06 22:21:24 首次发布

本文链接：https://blog.csdn.net/qq_37668179/article/details/123991741

版权

6 篇文章

订阅专栏

用途：满足 KKT 条件后极小化拉格朗日公式即可得到在不等式约束条件下的可行解

首先给出形式化的不等式约束优化问题：

$\large min_{x}f(x)$

$\large {\color{Blue} s.t.} h_{i}(x)=0,i=1,2,...m$

$\large g_{i}(x)\leqslant 0,i=1,2,...n$

列出 拉格朗日公式 得到无约束优化问题：

$\large L(x,\lambda ,\upsilon )=f(x)+ \sum_{i=1}^{n}\lambda _{i}g_{i}(x)+\sum_{i=i}^{m}\upsilon_{i} h_{i}(x)$

$\large \lambda \geqslant 0$

KKT condition：

如果存在 $x,\lambda ,\upsilon$ ，使得 $p^{*}=d^{*}$ （原函数最优 = 对偶最优），则此时 $x,\lambda ,\upsilon$ 就分别是原问题和对偶问题的最优解，可知：

$\large f(x^{*})=g(\lambda ^{*},\upsilon ^{*})=min_{x}L(x,\lambda ^{*},\upsilon ^{*})=L(x^{*},\lambda ^{*},\upsilon ^{*})$

即如果存在 $x,\lambda ,\upsilon$ 使：

$\large \frac{\partial L(x,\lambda ,\upsilon )}{\partial x}=0$	因为要满足： $\large minL(x,\lambda ,\upsilon )$
$\large \upsilon_{i} \cdot h_{i}(x)=0$	因为要满足： $\large L(x^{},\lambda ^{},\upsilon ^{})=f(x^{})$
$\large g_{i}(x)\leqslant 0,h_{i}(x)=0$	原问题的可行域
$\large \lambda_{i} \geqslant 0$	因为要满足： $\large L(x,\lambda ,\upsilon )\leqslant f(x)$