KKT条件

    在数学中，卡罗需-库恩-塔克条件（英文原名: Karush-Kuhn-Tucker Conditions常见别名: Kuhn-Tucker，KKT条件，Karush-Kuhn-Tucker最优化条件， Karush-Kuhn-Tucker条件，Kuhn-Tucker最优化条件，Kuhn-Tucker条件）是在满 足一些有规则的条件下，一个非线性规划（Nonlinear Programming）问题能有最优化解法的一个必要和充分条件。这是一个广义化拉格朗日乘数的成果。

考虑以下非线式最优化问题:

minxf(x)

Subject to:  

gi(x)≤0,hj(x)=0

f(x) 是需要最小化的函数， gi(x) (i=1,…,m) 是不等式约束， hj(x) (j=1,…,l) 是等式约束， m 和 l 分别为不等式约束和等式约束的数量。

不等式约束问题的必要和充分条件初见于卡罗需（William Karush）的博士论文^[1]，之后在一份由W.库恩（Harold W. Kuhn）及塔克（Albert W. Tucker）撰写的研讨生论文^[2] 出现后受到重视。

必要条件 [编辑]

    假设有目标函数，即是要被最小化的函数 f:Rn→R ，约束函数 gi:Rn→R 及 hj:Rn→R 。再者，假设他们都是于 x∗ 这点是连续可微的，如果 x∗ 是一局部极小值，那么将会存在一组所谓乘子的常数 λ≥0 ,  μi≥0 (i=1,…,m) 及 νj (j=1,...,l) 令到

λ+∑i=1mμi+∑j=1l|νj|>0,

λ∇f(x∗)+∑i=1mμi∇gi(x∗)+∑j=1lνj∇hj(x∗)=0,

μigi(x∗)=0for alli=1,…,m 。

正则性条件或约束规范[编辑]

    于上述必要和充分条件中，dual multiplier  λ 可能是零。当 λ 是零时，这个情况就是退化的或反常的。因此必要和充分条件会将约束的几何特性而不是将函数自身的特点纳入计算。

有一定数量的正则性条件能保证解法不是退化的（即 λ≠0 ），它们包括:

• 线性独立约束规范（Linear independence constraint qualification)(LICQ）:有效不等式约束的梯度（和等式约束的梯度于 x∗ 线性独立。

• Mangasarian-Fromowitz约束规范（Mangasarian-Fromowitz constraint qualification)(MFCQ）:有效不等式约束的梯度和等式约束的梯度于 x∗ 正线性独立。

• 常秩约束规范 (Constant rank constraint qualification) (CRCQ) :考虑每个有效不等式约束的梯度子集和等式约束的梯度，于 x∗ 的邻近区域的秩（rank）不变。

• 常正线性依赖约束规范（Constant positive linear dependence constraint qualification)(CPLD）:考虑每个有效不等式约束的梯度子集和等式约束的梯度，如果它们于 x∗ 是正线性依赖，那么它们于 x∗ 的邻近区域也是正线性依赖。(如果存在 a1≥0,…,an≥0  not all zero令到 a1v1+…+anvn=0 ，那么 {v1,…,vn} 是正线性依赖)

• 斯莱特条件（Slater condition）:如果问题只包含不等式约束，那么有一点 x 令到 gi(x)<0  for all  i=1,…,m

虽然MFCQ不等同于CRCQ，但可证出LICQ=>MFCQ=>CPLD，LICQ=>CRCQ=>CPLD。于实际情况下，较弱的约束规范会被倾向使用，这是因为较弱的约束规范能提供较强的最优化条件。

充分条件[编辑]

    假设目标函数 f:Rn→R 及约束函数 gi:Rn→R 皆为 凸函数，而 hj:Rn→R 是一仿射函数，假设有一可行点 x∗ ，如果有常数 μi≥0 (i=1,…,m) 及 νj (j=1,…,l) 令到

∇f(x∗)+∑i=1mμi∇gi(x∗)+∑j=1lνj∇hj(x∗)=0

μigi(x∗)=0for alli=1,…,m,

那么 x∗ 这点是一全局极小值.