KKT条件--约束问题最优化方法

　　KKT条件在约束条件下求解非线性规划问题很有用，是确定某点为最优点的一阶必要条件。而对于凸规划问题而言，KKT条件是局部极小点的一阶必要条件，同时也是充分条件，而且局部极小点就是全局极小点。考虑以下数学模型：

$$min \ f(x)\tag {1}\\ s. \ t. \ h_i(x) = 0 \ (i = 1, 2, ..., m)\\ g_j(x) \geq 0 \ (j = 1, 2, ..., l)$$
定理：
　　 $x^*$为可行域中的一点， $I(x^*) = \{i|g_i(x^*) = 0, 1\leq i \leq l\}$, $f(x)$与 $g_i(x) (i \in I(x^*))$在点 $x^*$处可微， $g_i(x)$在点 $x^*$处连续， $h_j(x) (j = 1, 2, ..., m)$在点 $x^*$处连续可微，且向量集
$$\{\nabla g_i(x^*), \nabla h_j(x^*)|i \in I(x^*), j = 1, 2, ..., m\}$$
线性无关。若 $x^*$是上述数学模型的局部最优解，则存在 $\gamma ^* = (\gamma _1^*, \gamma _2^*, ..., \gamma _l^*)^T$和向量 $\lambda ^*= (\lambda _1^*, \lambda _2^*, ..., \lambda _m^*)^T$，是下述条件成立：

⎧⎩⎨⎪⎪⎪⎪∇f(x∗)−∑lj=1γ∗j∇gj(x∗)−∑mi