如何理解拉格朗日算子法

一、等式约束

非常好的参考资料:
https://www.matongxue.com/madocs/939

这里对多个(两个)等式约束条件的情况做一个补充:

1、原始:

m i n   f ( x , y ) = x 2 + y 2 s . t .   g ( x , y ) = x 2 y − 3 = 0 ;   h ( x , y ) = x − y − 3 = 0 min \ f(x,y)=x^2+y^2\\ s.t. \ g(x,y)=x^2y-3=0;\ h(x,y)=x-y-3=0 min f(x,y)=x2+y2s.t. g(x,y)=x2y3=0; h(x,y)=xy3=0

求解:

联立以下方程:
d f d x = λ d g d x + u d h d x \frac{df}{dx}=\lambda\frac{dg}{dx}+u\frac{dh}{dx} dxdf=λdxdg+udxdh
d f d y = λ d g d y + u d h d y \frac{df}{dy}=\lambda\frac{dg}{dy}+u\frac{dh}{dy} dydf=λdydg+udydh
x 2 y − 3 = 0 x^2y-3=0 x2y3=0
x − y − 3 = 0 x-y-3=0 xy3=0

即:
2 x = 2 λ x y + u 2x=2\lambda xy+u 2x=2λxy+u
2 y = λ x 2 − u 2y=\lambda x^2-u 2y=λx2u
x 2 y − 3 = 0 x^2y-3=0 x2y3=0
x − y − 3 = 0 x-y-3=0 xy3=0
4方程,解4个未知数

2、拉格朗日变式:

m i n ( x , y )   L ( x , y ) = f ( x , y ) − λ g ( x , y ) − u h ( x , y ) min_{(x,y)} \ L(x,y)= f(x,y)-\lambda g(x,y)-uh(x,y) min(x,y) L(x,y)=f(x,y)λg(x,y)uh(x,y)

m i n ( x , y )   L ( x , y ) = f ( x , y ) − λ ( x 2 + y 2 x 2 y − 3 ) − u ( x − y − 3 ) min_{(x,y)} \ L(x,y)=f(x,y)-\lambda (x^2+y^2x^2y-3)-u(x-y-3) min(x,y) L(x,y)=f(x,y)λ(x2+y2x2y3)u(xy3)

求解

联立以下方程:
d L d x = 0 \frac{dL}{dx}=0 dxdL=0
d L d y = 0 \frac{dL}{dy}=0 dydL=0
d L d λ = 0 \frac{dL}{d\lambda}=0 dλdL=0
d L d u = 0 \frac{dL}{du}=0 dudL=0

即:
d f d x − λ d g d x − u d h d x = 0 \frac{df}{dx}-\lambda\frac{dg}{dx}-u\frac{dh}{dx}=0 dxdfλdxdgudxdh=0
d f d y − λ d g d y − u d h d y = 0 \frac{df}{dy}-\lambda\frac{dg}{dy}-u\frac{dh}{dy}=0 dydfλdydgudydh=0
g ( x , y ) = x 2 y − 3 = 0 g(x,y)=x^2y-3=0 g(x,y)=x2y3=0
h ( x , y ) = x − y − 3 = 0 h(x,y)=x-y-3=0 h(x,y)=xy3=0

这与1、原始 中的求解方程是一致的

2、不等式约束/不等式等式约束混合

关键词:KKT条件
参考资料:1、通俗解释

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值