一、等式约束
非常好的参考资料:
https://www.matongxue.com/madocs/939
这里对多个(两个)等式约束条件的情况做一个补充:
1、原始:
m i n f ( x , y ) = x 2 + y 2 s . t . g ( x , y ) = x 2 y − 3 = 0 ; h ( x , y ) = x − y − 3 = 0 min \ f(x,y)=x^2+y^2\\ s.t. \ g(x,y)=x^2y-3=0;\ h(x,y)=x-y-3=0 min f(x,y)=x2+y2s.t. g(x,y)=x2y−3=0; h(x,y)=x−y−3=0
求解:
联立以下方程:
d
f
d
x
=
λ
d
g
d
x
+
u
d
h
d
x
\frac{df}{dx}=\lambda\frac{dg}{dx}+u\frac{dh}{dx}
dxdf=λdxdg+udxdh
d
f
d
y
=
λ
d
g
d
y
+
u
d
h
d
y
\frac{df}{dy}=\lambda\frac{dg}{dy}+u\frac{dh}{dy}
dydf=λdydg+udydh
x
2
y
−
3
=
0
x^2y-3=0
x2y−3=0
x
−
y
−
3
=
0
x-y-3=0
x−y−3=0
即:
2
x
=
2
λ
x
y
+
u
2x=2\lambda xy+u
2x=2λxy+u
2
y
=
λ
x
2
−
u
2y=\lambda x^2-u
2y=λx2−u
x
2
y
−
3
=
0
x^2y-3=0
x2y−3=0
x
−
y
−
3
=
0
x-y-3=0
x−y−3=0
4方程,解4个未知数
2、拉格朗日变式:
m
i
n
(
x
,
y
)
L
(
x
,
y
)
=
f
(
x
,
y
)
−
λ
g
(
x
,
y
)
−
u
h
(
x
,
y
)
min_{(x,y)} \ L(x,y)= f(x,y)-\lambda g(x,y)-uh(x,y)
min(x,y) L(x,y)=f(x,y)−λg(x,y)−uh(x,y)
即
m
i
n
(
x
,
y
)
L
(
x
,
y
)
=
f
(
x
,
y
)
−
λ
(
x
2
+
y
2
x
2
y
−
3
)
−
u
(
x
−
y
−
3
)
min_{(x,y)} \ L(x,y)=f(x,y)-\lambda (x^2+y^2x^2y-3)-u(x-y-3)
min(x,y) L(x,y)=f(x,y)−λ(x2+y2x2y−3)−u(x−y−3)
求解
联立以下方程:
d
L
d
x
=
0
\frac{dL}{dx}=0
dxdL=0
d
L
d
y
=
0
\frac{dL}{dy}=0
dydL=0
d
L
d
λ
=
0
\frac{dL}{d\lambda}=0
dλdL=0
d
L
d
u
=
0
\frac{dL}{du}=0
dudL=0
即:
d
f
d
x
−
λ
d
g
d
x
−
u
d
h
d
x
=
0
\frac{df}{dx}-\lambda\frac{dg}{dx}-u\frac{dh}{dx}=0
dxdf−λdxdg−udxdh=0
d
f
d
y
−
λ
d
g
d
y
−
u
d
h
d
y
=
0
\frac{df}{dy}-\lambda\frac{dg}{dy}-u\frac{dh}{dy}=0
dydf−λdydg−udydh=0
g
(
x
,
y
)
=
x
2
y
−
3
=
0
g(x,y)=x^2y-3=0
g(x,y)=x2y−3=0
h
(
x
,
y
)
=
x
−
y
−
3
=
0
h(x,y)=x-y-3=0
h(x,y)=x−y−3=0
这与1、原始 中的求解方程是一致的
2、不等式约束/不等式等式约束混合
关键词:KKT条件
参考资料:1、通俗解释