带约束的最优化问题，拉格朗日乘数法

求解等式约束下的最优化问题

假设最优化问题如下
$$\begin{array}{cl}\min & f(x)\\ s.t& h(x)=0\end{array}$$即只含等式约束的最优化问题，其中$x\in R^n,f:R^n\to R,h:R^n\to R^m,m\le n,h\in C^1$即约束函数连续可微。令$Dh(x^{\ast })$为向量$h$在$x^{\ast }$处的雅克比矩阵。当且仅当$rankDh(x^{\ast })=m$时，$x^{\ast }$为正则点，即此点的梯度向量$▽h(x)$线性无关。
引入拉格朗日定理：
$x^{\ast }$是$f:R^n\to R$的局部极小点（极大点），约束条件为 h ( x ) = 0 , h : R n → R m , m ≤ n