拉格朗日乘数法

拉格朗日函数用于约束优化问题。约束优化问题简而言之就是在有一堆约束${\Sigma }_{i=1}{g}_i(x)$的情况下求目标函数$f(x)$的问题，说起来很抽象，直接来点例子看比较直观。

例1. 求$f(x,y,z)=xyz$在条件$\frac{1}{x}+\frac{1}{y}+\frac{1}{z}=\frac{1}{a}(x,y,z,a>0)$下的最小值。

直接构造拉格朗日函数$$\begin{gathered} L(x,y,z,\lambda )=f(x,y,z)+\lambda g(x)= \\ xyz+\lambda (\frac{1}{x}+\frac{1}{y}+\frac{1}{z}-\frac{1}{a}) \end{gathered}$$

然后$L(x,y,z,a)$分别对$x,y,z,a$求导，可的一系列方程式：

$$\begin{gathered} \frac{\partial L}{\partial x}=yz-\frac{\lambda }{x^2}=0 \\ \frac{\partial L}{\partial y}=xz-\frac{\lambda }{y^2}=0 \\ \frac{\partial L}{\partial z}=xy-\frac{\lambda }{z^2}=0 \\ \frac{\partial L}{\partial \lambda }=\frac{1}{x}+\frac{1}{y}+\frac{1}{z}-\frac{1}{a}=0 \end{gathered}$$

然后将带有$\lambda$的挪到右边并且把分母乘过去：
$$x^{2}yz=\lambda ,x{y}^{2}z=\lambda ,xy{z}^2=\lambda$$
再依次相除，并代入$\frac{\partial L}{\partial \lambda }$中，可得$x=y=z=3a$。

如果还是不太懂可以再看一个例子：
例2. $u=xy+2yz$在约束条件$x^2+y^2+z^2=10$的最大最小值。

直接构造拉格朗日函数:
$$L(x,y,z,\lambda )=xy+2yz+\lambda (x^2+y^2+z^2-10)$$

分别求偏导:
$$\begin{gathered} \frac{\partial L}{\partial x}=y+2\lambda x=0 \\ \frac{\partial L}{\partial y}=x+2z+2\lambda y=0 \\ \frac{\partial L}{\partial z}=2y+2\lambda z=0 \end{gathered}$$

这里是一个标准的线性方程组的形式，可以直接行列式求解，得到$\lambda =\frac{\sqrt{5}}{2},-\frac{\sqrt{5}}{2},0$，分别带回去，$\lambda =\frac{\sqrt{5}}{2}$可得驻点$(1，-\sqrt{5}，2)，(-1，\sqrt{5},-2)$，他们两个对应一个极值$u=-5\sqrt{5}$，而$\lambda =-\frac{\sqrt{5}}{2}$可得驻点$(1,\sqrt{5},2),(-1,-\sqrt{5},-2)$，代回原式可得极值$5\sqrt{5}$。当$\lambda =0$， 可得驻点$(2\sqrt{2},0,-\sqrt{2}),(-2\sqrt{2},0,\sqrt{2})$，可得极值为0。 所以最大值最小值就显而易见。