[最优化]等式约束的优化问题求解

等式约束的优化问题求解

基本概念

本文将讨论下类形状的优化问题

$$minimize\quad f(x)\\ subject\ to\quad h(x)=0$$
其中 $x\in R^{n},f:R^{n}\to R,h:R^{n}\to R^{m},h=[h_{1},...,h_{m}]^{T},m\le n$，假定函数 $h$连续可微，即 $h\in C^{1}$。
下面介绍几个基本概念：

正则点：对于满足约束$h_{1}(x^{*})=0,...,h_{m}(x^{*})=0$的点$x^{*}$，如果梯度向量$\nabla h_{1}(x^{*}),...,\nabla h_{m}(x^{*})$是线性无关的，则称$x^{*}$是该约束的一个正则点。

切线空间：曲面$S={x\in R^{n}:h(x)=0}$中点$x^{*}$处的切线空间为集合$T(x^{*})=\{ y:Dh(x^{*})y=0\}$。可以看出切线空间$T(x^{*})$是矩阵$Dh(x^{*})$的零空间，即$T(x^{*})=N(Dh(x^{*}))$。

法线空间：曲面$S={x\in R^{n}:h(x)=0}$中点$x^{*}$处的法线空间为集合 N(x∗)={ x