前言:面试被问到:QCQP问题如何求解,答:先转换成lagrange乘子法,被追问lagrange乘子法的原理是什么?
尴尬了,答不出...... 不懂处待续
1. 如何理解lagrange乘子法
下面2个解释相似,直观,均来自知乎 https://www.zhihu.com/question/38586401
本质就是梯度要相同
1)
拉格朗日乘数法(Lagrange multiplier)有很直观的几何意义。
举个2维的例子来说明:
假设有自变量x和y,给定约束条件g(x,y)=c,要求f(x,y)在约束g下的极值。
我们可以画出f的等高线图,如下图。此时,约束g=c由于只有一个自由度,因此也是图中的一条曲线(红色曲线所示)。显然地,当约束曲线g=c与某一条等高线f=d1相切时,函数f取得极值。
两曲线相切等价于两曲线在切点处拥有共线的法向量。因此可得函数f(x,y)与g(x,y)在切点处的梯度(gradient)成正比。
于是我们便可以列出方程组求解切点的坐标(x,y),进而得到函数f的极值。
作者:卢健龙
链接:https://www.zhihu.com/question/38586401/answer/105273125
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
2)
想象一下,目标函数