数学分析一则。
摘编自链接。如已有一个优化问题:
min
x
,
y
{
F
(
x
,
y
)
:
G
(
x
)
≤
0
,
(
x
,
y
)
∈
gph
Ψ
}
\begin{align*} \min_{x,y}\{ F(x,y):G(x)\leq 0, (x,y)\in \textbf{gph}\Psi\} \end{align*}
x,ymin{F(x,y):G(x)≤0,(x,y)∈gphΨ}
其中,
gph
Ψ
\textbf{gph} \Psi
gphΨ是下层空间问题的解集映射。
Ψ
(
x
)
=
A
r
g
m
i
n
y
{
f
(
x
,
y
)
:
g
(
x
,
y
)
≤
0
}
.
\Psi(x)=\mathop{Argmin}\limits_y\{f(x,y):g(x,y)\leq 0\}.
Ψ(x)=yArgmin{f(x,y):g(x,y)≤0}.
F , f , g i : R n × R m → R , i = 1 , … , p F,f,g_i:\mathbb{R}^n\times \mathbb{R}^m\rightarrow\mathbb{R},i=1,\dots,p F,f,gi:Rn×Rm→R,i=1,…,p,以及 G : R n × R m → R q , i = 1 , … , p G:\mathbb{R}^n\times \mathbb{R}^m\rightarrow\mathbb{R}^q,i=1,\dots,p G:Rn×Rm→Rq,i=1,…,p假设为光滑,并且 f , g i f,g_i f,gi为凸函数。
一种经常使用的方法是在满足某些规律性条件的情况下,用其 Karush Kuhn-Tucker \text{Karush Kuhn-Tucker} Karush Kuhn-Tucker条件替换其下层问题。
结果:
F
(
x
,
y
)
→
min
x
,
y
,
u
,
G
(
x
)
≤
0
,
∇
y
L
(
x
,
y
,
u
)
=
0
,
g
(
x
,
y
)
≤
0
,
u
≥
0
,
u
T
g
(
x
,
y
)
=
0
,
\begin{align} F(x,y)\quad&\rightarrow\quad \min_{x,y,u},\\ G(x)\quad&\leq\quad 0,\\ \nabla_y L(x,y,u)\quad &=\quad0,\\ g(x,y)\quad&\leq\quad 0,\\ u \quad&\geq\quad0,\\ u^Tg(x,y)\quad&=\quad0, \end{align}
F(x,y)G(x)∇yL(x,y,u)g(x,y)uuTg(x,y)→x,y,umin,≤0,=0,≤0,≥0,=0,
其中,
L
(
x
,
y
,
u
)
=
f
(
x
.
y
)
+
u
T
g
(
x
,
y
)
L(x,y,u)=f(x.y)+u^Tg(x,y)
L(x,y,u)=f(x.y)+uTg(x,y)表示拉格朗日函数。