P11
二阶条件
若
f
:
R
n
↦
R
f: R^n \mapsto R
f:Rn↦R 二阶可微,则
f
f
f为凸 等价于
d
o
m
f
domf
domf为凸
▽
2
f
(
x
)
≽
0
,
∀
x
∈
d
o
m
f
\triangledown^2f(x) \succcurlyeq 0, \forall x \in domf
▽2f(x)≽0,∀x∈domf
H
e
s
s
o
i
n
Hessoin
Hessoin 矩阵
一阶偏导单调不减
▽
2
f
(
x
)
≻
0
,
⇒
\triangledown^2f(x) \succ 0, \Rightarrow
▽2f(x)≻0,⇒严格凸
反过来则不成立
例: f ( x ) = x 4 f ′ ′ ( x ) = 12 x 2 f(x)=x^4 \quad f''(x)=12x^2 f(x)=x4f′′(x)=12x2
例:
二次函数
f
:
R
n
↦
R
d
o
m
f
=
R
n
f:R^n \mapsto R \quad domf=R^n
f:Rn↦Rdomf=Rn
f
(
x
)
=
1
2
x
T
p
x
+
q
T
x
+
r
p
∈
S
n
,
q
∈
R
n
,
r
∈
R
f(x)=\frac{1}{2} x^Tpx + q^Tx + r \quad p\in S^n,q\in R^n,r \in R
f(x)=21xTpx+qTx+rp∈Sn,q∈Rn,r∈R
▽
2
f
(
x
)
=
p
\triangledown^2f(x)=p
▽2f(x)=p
如果p矩阵是正定矩阵的话,函数是凸函数。
例:
f
(
x
)
=
1
x
2
x
≠
0
;
x
∈
R
f(x)=\frac{1}{x^2} \quad x\not=0;x\in R
f(x)=x21x=0;x∈R
f
′
′
(
x
)
=
6
x
−
4
>
0
f''(x)=6x^{-4} > 0
f′′(x)=6x−4>0
定义域不为凸集,不是凸函数。
仿射函数:
f
(
x
)
=
A
x
+
b
▽
2
f
(
x
)
=
0
f(x)=Ax+b\quad\triangledown^2f(x)=0
f(x)=Ax+b▽2f(x)=0
指数函数:
f
(
x
)
=
e
a
x
,
x
∈
R
f(x)=e^{ax},x\in R\quad
f(x)=eax,x∈R
f
′
(
x
)
=
a
e
a
x
f'(x)=ae^{ax}
f′(x)=aeax
f
′
′
(
x
)
=
a
2
e
a
x
f''(x)=a^2e^{ax}
f′′(x)=a2eax
恒大于0,所以指数函数是凸函数。