kkt
条件例子
【篇一:
kkt
条件例子】
kkt
条件是不是只有强对偶成立才能用啊?比如这个问题
:
a,d
非负,
b,c
正,求
min(c/(a+b)+b/(c+d))
【篇二:
kkt
条件例子】
kkt
条件介绍
最近学习的时候用到了最优化理论,但是我没有多少
这方面的理论基础。于是翻了很多大神的博客把容易理解的内容记
载到这篇博客中。因此这是篇汇总博客,不算是全部原创,但是基
础理论,应该也都差不多吧。因才疏学浅,有纰漏的地方恳请指出。
kkt
条件是解决最优化问题的时用到的一种方法。我们这里提到的
最优化问题通常是指对于给定的某一函数,求其在指定作用域上的
全局最小
。提到
kkt
条件一般会附带的提一下拉
朗日乘子。对学过
高等数学的人来说比较拉
朗日乘子应该会有些印象。二者均是求解
最优化问题的方法,不同之处在于应用的情形不同。
一般情况下,最优化问题会碰到一下三种情况:
(
1
)无约束条件
这是最简单的情况,解决方法通常是函数对变量求导,令求导函数
等于
0
的点可能是极
点。将结果带回原函数进行验证即可。
(
2
)等式约束条件
设目标函数为
f(x)
,约束条件为
hk(x)
,形如
s.t.
表示
subject to
,
“
受限于
”
的意思,
l
表示有
l
个约束条件。
则解决方法是消元法或者拉
朗日法。消元法比较简单不在赘述,拉
朗日法这里在提一下,因为后面提到的
kkt
条件是对拉
朗日乘子法
的一种泛化。
定义拉
朗日函数
f(x)
,
然后解变量的偏导方程:
......,
如果有
l
个约束条件,就应该有
l 1
个方程。求出的方程组的解就可
能是最优化
(高等数学中提到的极
),将结果带回原方程验证就可
得到解。
至于为什么这么做可以求解最优化?维基百科上给出了一个比较好
的直观解释。
举个二维最优化的例子: