这是最简单的情况,通常是对变量求导,令导数为0的点是极值点,因而有可能是最值点。如求f(x)=x2,xϵR
f
(
x
)
=
x
2
,
x
ϵ
R
的最小值。
∂f∂x=0→2x=0→x=0→极小值与最小值f(0)=0
∂
f
∂
x
=
0
→
2
x
=
0
→
x
=
0
→
极
小
值
与
最
小
值
f
(
0
)
=
0
(2)约束条件为等式
目标函数是f(x)
f
(
x
)
,约束条件有k个等式,如下:
{minf(x)s.t.hi(x)=0,i=1,2,...,k
{
m
i
n
f
(
x
)
s
.
t
.
h
i
(
x
)
=
0
,
i
=
1
,
2
,
.
.
.
,
k
我们用
拉格朗日乘子法,先构造拉格朗日函数
L
L
L(x,λ1,...,λk)=f(x)+∑i=1kλihi(x)
因为∑i=1kλihi(x)=0→L(x,λ1,...,λk)=f(x)
因
为
∑
i
=
1
k
λ
i
h
i
(
x
)
=
0
→
L
(
x
,
λ
1
,
.
.
.
,
λ
k
)
=
f
(
x
)
对所有变量求导
∂L∂x=0,∂L∂λ1=0,...,∂L∂λk=0
∂
L
∂
x
=
0
,
∂
L
∂
λ
1
=
0
,
.
.
.
,
∂
L
∂
λ
k
=
0
求出的解代入原方程,就有可能得到
L
L
的极值,也就是f的极值。
(3)约束条件为不等式
假设我们的目标函数和约束条件如下所示:
⎧⎩⎨⎪⎪minf(x)s.t.hi(x)=0,i=1,2,...,ks.t.gj(x)≤0,j=1,2,...,m
{
m
i
n
f
(
x
)
s
.
t
.
h
i
(
x
)
=
0
,
i
=
1
,
2
,
.
.
.
,
k
s
.
t
.
g
j
(
x
)
≤
0
,
j
=
1
,
2
,
.
.
.
,
m
我们照样用
拉格朗日乘子法,这次我们希望构造一个函数
L
L
,L≤f,当
L
L
取得最大值时,f便取得最小值,同时
L
L
应该包含所有的约束条件,如下所示:
其中
μj≥0,(j=1,2,...,m)
μ
j
≥
0
,
(
j
=
1
,
2
,
.
.
.
,
m
)
,因为要保证
L≤f
L
≤
f
。
L
L
的第二项为0,第三项中gj(x)≤0,因此
μj≥0
μ
j
≥
0
,才能保证第三项最大值是0,从而
L≤f
L
≤
f
。
假设
x∗
x
∗
是
L
L
的最优解,则其应满足以下条件: