说明
此笔记根据中科大凌青老师的凸优化视屏课程整理。
1、凸优化是简单的优化
优化/数学规划（optimization/Mathematical programming）可以被定义为“从一个可行解的集合中，寻找最优的元素”。（说凸优化是简单的优化其实是从global_minal=local_minimal的角度）
数学描述
m
i
n
f
0
(
x
)
,
f
0
:
R
n
→
R
(
o
b
j
e
c
t
i
v
e
f
u
n
c
t
i
o
n
)
min\space f_0(x),f_0:R^n\to R (objective function)
min f0(x),f0:Rn→R(objectivefunction)
s
u
b
j
e
c
t
t
o
(
s
.
t
.
)
f
(
x
)
≤
b
i
,
i
=
1
,
2
,
.
.
.
,
M
subject\space to\space(s.t.)\space f(x)\le b_i,i=1,2,...,M\space
subject to (s.t.) f(x)≤bi,i=1,2,...,M
(
f
:
R
n
→
R
为
不
等
式
约
束
)
(f:R^n\to R为不等式约束)
(f:Rn→R为不等式约束)
X
=
[
x
1
,
.
.
.
,
x
n
]
T
X=[x_1,...,x_n]^T
X=[x1,...,xn]T
那么
X
∗
X^*
X∗是最优解等价于在可行解集中任意的
Z
i
Z_i
Zi都有
f
0
(
X
∗
)
≤
f
0
(
Z
i
)
f_0(X^*)\le f_0(Z_i)
f0(X∗)≤f0(Zi)。
2、几个例子
1、数据拟合问题（最小二乘法）
m
i
n
Σ
ϵ
i
2
min\space \Sigma \epsilon^2_i
min Σϵi2
2、线性二次调节器LQR
X
k
=
A
X
k
−
1
+
B
u
R
X_k=AX_{k-1}+Bu_R
Xk=AXk−1+BuR
m
i
n
J
=
Σ
k
=
1
N
(
X
k
T
Q
X
k
+
u
k
T
R
u
k
)
min\space J=\Sigma^N_{k=1}(X_k^TQX_k+u_kTRu_k)
min J=Σk=1N(XkTQXk+ukTRuk)
3、多用户能量控制问题
信噪比：
S
I
N
R
i
=
P
i
σ
i
2
+
Σ
j
≠
i
α
j
i
P
j
SINR_i=\frac{P_i}{\sigma^2_i+\Sigma_{j\ne i\alpha_{ji}P_j}}
SINRi=σi2+Σj=iαjiPjPi
码率：
f
i
∝
l
o
g
(
1
+
S
I
N
R
i
)
f_i\propto log(1+SINR_i)
fi∝log(1+SINRi)
m
i
n
Σ
i
=
1
M
f
i
,
s
.
t
.
0
≤
P
≥
b
i
min\space \Sigma^M_{i=1}f_i,s.t.0\le P\ge b_i
min Σi=1Mfi,s.t.0≤P≥bi 极大化网络流量
4、图像处理
去噪：
Φ
0
(
x
,
y
)
→
Φ
(
x
,
y
)
\Phi_0(x,y)\to \Phi(x,y)
Φ0(x,y)→Φ(x,y)
基于先验知识（自然存在的光滑和连续）的Tv范数可以定义为在2个方向上的差分:
∣
∣
Φ
∣
∣
T
v
=
Σ
y
Σ
x
(
Φ
(
x
,
y
)
−
Φ
(
x
,
y
−
1
)
)
2
+
(
Φ
(
x
,
y
)
−
Φ
(
x
−
1
,
y
)
)
2
||\Phi||_{Tv}=\Sigma_y\Sigma_x (\Phi(x,y)-\Phi(x,y-1))^2+(\Phi(x,y)-\Phi(x-1,y))^2
∣∣Φ∣∣Tv=ΣyΣx(Φ(x,y)−Φ(x,y−1))2+(Φ(x,y)−Φ(x−1,y))2
m
i
n
∣
∣
Φ
∣
∣
T
v
+
λ
∣
∣
Φ
−
Φ
0
∣
∣
F
2
min\space ||\Phi||_{Tv}+\lambda||\Phi-\Phi_0||^2_F
min ∣∣Φ∣∣Tv+λ∣∣Φ−Φ0∣∣F2（F范数是所有元素平方和，
λ
\lambda
λ是规范化因子）
6、最优路径问题
m
i
n
Σ
i
,
j
∈
V
w
i
j
x
i
j
min\space \Sigma_{i,j\in V}w_{ij}x_{ij}
min Σi,j∈Vwijxij
s
.
t
.
x
i
j
=
0
/
1
,
Σ
j
x
i
j
−
Σ
j
x
j
i
=
{
1
,
i
=
s
;
−
1
,
i
=
d
0
,
o
t
h
e
r
w
i
s
e
s.t.\space x_{ij}=0/1, \Sigma_jx_{ij}-\Sigma_jx_{ji}=\left\{\begin{aligned}1,i=s; \\-1,i=d \\0, otherwise \end{aligned}\right.
s.t. xij=0/1,Σjxij−Σjxji=⎩⎪⎨⎪⎧1,i=s;−1,i=d0,otherwise
1668
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
