拉格朗日乘数法，一种计算条件极值的方式

一、拉格朗日乘数法简介

在日常的生产生活中，当我们要要安排生产生活计划的时候，常常会在现实物理资源约束的条件下，计算得到收益最大或者损失最小的计划； 像这种对自变量有附加条件的极值称为条件极值；拉格朗日乘数法是一种直接计算解决条件极值的方法；

拉格朗日乘数法的定义如下：

设有 $f(x,y),\phi (x，y)$ 两个函数，并且两者都有一阶连续偏导数,则做拉格朗日函数为

$$F(x,y,\lambda )=f(x,y)+\lambda \phi (x，y)$$
令函数F的各个偏导数 $F_x=0,F_y=0,F_{\lambda }=0$,计算各个偏导数并联立方程得到

$$\{\begin{array}{c}{f}_x(x,y)+\lambda {\phi }_x(x,y)=0\\ f_y(x,y)+\lambda {\phi }_y(x,y)=0\\ \phi (x,y)=0\end{array}$$
由此方程组解出拉格朗日函数稳定点 $(x_0，y_0，{\lambda }_0)$,则 $(x_0，y_0)$ 就是函数 $f(x,y)$ 在附加条件 $\phi (x,y)=0$ 下的可能极值点;

二、拉格朗日乘数法的推导

目标函数

$$f(x,y)=0\text{\hspace{1em}(1)}$$

约束条件

$$\phi (x，y)=0\text{\hspace{1em}(2)}$$
如果函数(1)在点 $ (x_{0}, y_{0}) $ 得到极值，那么首先会满足约束条件

$$\phi (x_0，y_0)=0\text{\hspace{1em}(3)}$$
设 $f(x,y)$ 与 $\phi (x，y)$在点 $(x_0,y_0)$ 的某个邻域内有连续偏导数，且满足

$${\phi }_y(x_0，y_0)\ne 0$$
由隐函数存在定理，式(2)在点 $(x_{0}, y_{0}) $ 的某邻域内能唯一确定一个单值可导且具有连续导数的函数 $y=y(x)$ ，并且有 $y_0=f(x_0)$,以及

$${\frac{\mathrm{d}y}{\mathrm{d}x}|}_{x=x_0}=-\frac{{\phi }_x\left(x_0,y_0\right)}{{\phi }_y\left(x_0,y_0\right)}\text{\hspace{1em}(4)}$$
将 $y=y(x)$ 带入公式(1)得到

$$z=f(x,y(x))\text{\hspace{1em}(5)}$$
公式(5)也同公式(1)在 $(x_{0}, y_{0}) $ 处取的极值，有一元函数取得极值的必要条件可得

$${\frac{\mathrm{d}z}{\mathrm{d}x}|}_{x=x_0}=f_x\left(x_0,y_0\right)+{f_y\left(x_0,y_0\right)\frac{\mathrm{d}y}{\mathrm{d}x}|}_{x=x_0}=0\text{\hspace{1em}(6)}$$
将公式(4)带入公式(6)得到

$$f_x\left(x_0,y_0\right)-f_y\left(x_0,y_0\right)\cdot \frac{{\phi }_x\left(x_0,y_0\right)}{{\phi }_y\left(x_0,y_0\right)}=0\text{\hspace{1em}(7)}$$
为了解出 $(x_{0}, y_{0}) $ ，引入辅助变量

$${\lambda }_0=-\frac{f_y\left(x_0,y_0\right)}{{\phi }_y\left(x_0,y_0\right)}$$

则公式(3)和公式(7)均成立等价于

$$\{\begin{array}{l}{f}_x\left(x_0,y_0\right)+{\lambda }_0{\phi }_x\left(x_0,y_0\right)=0\\ f_y\left(x_0,y_0\right)+{\lambda }_0{\phi }_y\left(x_0,y_0\right)=0\\ \phi \left(x_0,y_0\right)=0\end{array}\text{\hspace{1em}(8)}$$
在 $f(x,y),\phi (x，y)$ 给定的前提下，我们可以通过公式(8)计算得到 $(x_0,y_0,{\lambda }_0)$ ,我们可根据公式(8)的特点构造以下函数

$$F(x,y,\lambda )=f(x,y)+\lambda \varphi (x,y)$$

可以看到公式(8)等价 $F(x,y,\lambda )$ 的以下偏导数

$$\{\begin{array}{l}{F}_x\left(x_0,y_0,{\lambda }_0\right)=0\\ F_y\left(x_0,y_0,{\lambda }_0\right)=0\\ F_{\lambda }\left(x_0,y_0,{\lambda }_0\right)=0\end{array}$$

通过以上推演过程，函数 $F(x,y,\lambda )$ 称为拉格朗日函数，参数λ称为拉格朗日乘数，点 $(x_0,y_0,{\lambda }_0)$ 称为 $F(x,y,\lambda )$ 的驻点或稳定点.