对偶上升
考虑带等式约束的凸优化问题(1)：
min
f
(
x
)
s.t.
A
x
=
b
\begin{array}{ll} \operatorname{min} & f(x) \\ \text { s.t. } & A x=b \end{array}
min s.t. f(x)Ax=b
其中
x
∈
R
n
\ x \in \mathbf{R}^{n}
x∈Rn，
A
∈
R
m
×
n
\ A \in \mathbf{R}^{m \times n}
A∈Rm×n，
f
:
R
n
→
R
\ f: \mathbf{R}^{n} \rightarrow \mathbf{R}
f:Rn→R是凸函数。
优化问题(1)的拉格朗日函数：
L
(
x
,
y
)
=
f
(
x
)
+
y
T
(
A
x
−
b
)
\ L(x, y)=f(x)+y^{T}(A x-b)
L(x,y)=f(x)+yT(Ax−b)
上式的对偶函数：
g
(
y
)
=
inf
x
L
(
x
,
y
)
=
−
f
∗
(
−
A
T
y
)
−
b
T
y
\ g(y)=\inf _{x} L(x, y)=-f^{*}\left(-A^{T} y\right)-b^{T} y
g(y)=xinfL(x,y)=−f∗(−ATy)−bTy
其中
y
\ y
y是对偶变量（拉格朗日乘子），
f
∗
\ f^*
f∗是
f
\ f
f的凸共轭。
对偶问题为：
max
g
(
y
)
\text { max} \quad g(y)
maxg(y)
其中
y
∈
R
m
\ y \in \mathbf{R}^{m}
y∈Rm。假设强对偶性成立，那么原问题和对偶问题的最优解相同。我们可以通过解对偶问题的最优解来得到原问题的最优解：
x
⋆
=
argmin
x
L
(
x
,
y
⋆
)
\ x^{\star}=\underset{x}{\operatorname{argmin}} L\left(x, y^{\star}\right)
x⋆=xargminL(x,y⋆)
511
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
