最优化理论复习--最优性条件（二）

上一篇

最优化理论分析复习–最优性条件（一）

约束极值问题的最优性条件

基本概念

• 凸规划
  $minf(x)$
  $s.t.\{\begin{array}{c}{g}_i(x)\ge 0，不等式约束\\ \\ h_j(x)=0，等式约束\end{array}$
  其中 $f(x)$ 是凸函数， $g_i(x)$ 是凹函数，$h_j(x)$ 是线性函数（线性函数既是凸函数又是凹函数）
  要将$g_i(x)$变成 $\ge 0$的形式
  判断凸函数的方法，求 $f(x)$ 的海森矩阵如果矩阵为正定或半正定的，则它就为凸函数

对于凸规划问题中如果 $\bar{x}$ 是KKT点则 $\bar{x}$ 为整体极小值点
$$在凸规划中KKT点\iff 整体极小值点$$

• 定义： 设 $\bar{x}$ 为可行点， 不等式约束中在 $\bar{x}$ 起作用约束 $g_i(x)，i\in I$, 如果向量组 { ▽ g i ( x ˉ ) , ▽ h j ( x ˉ ) } \{\bigtriangledown g_i(\bar{x}), \bigtriangledown h_j(\bar{x}) \} { ▽gi​(xˉ),▽hj​(xˉ)}线性无关，则称 $\bar{x}$ 为约束$g(x)\ge 0和h(x)=0$的正则点

若$\bar{x}$ 是曲面 $S$上的一个正则点，它所在的可微曲线的切向量组成空间的一个子空间
即前进方向为此时可行域的切向量
表示为
H 0 = { d   ∣ ▽ h ( x ˉ ) T d = 0 } H_0 = \{d\ | \bigtriangledown h(\bar{x})^T d = 0\} H0​={ d ∣▽h(xˉ)Td