几种重要的凸集
空间
R n R^n Rn维空间,既是仿射集、凸集、凸锥。
R
n
R^n
Rn维空间的子空间
R
n
R^n
Rn维的子空间,既是仿射集、凸集、凸锥。
任意直线,既是仿射集、凸集,如果过原点是凸锥,否则不是。
任意线段,是凸集,但不是仿射集(排除只是一个点),不是凸锥(排除只是一个原点)。
以
x
0
x_0
x0为起点,向
v
v
v方向发射
{
x
0
+
θ
v
∣
θ
≥
0
}
x
0
∈
R
n
,
θ
∈
R
,
v
∈
R
n
\lbrace x_0 + \theta v | \theta \geq 0 \rbrace \quad x_0 \in R^n,\theta \in R,v \in R^n
{x0+θv∣θ≥0}x0∈Rn,θ∈R,v∈Rn
不是仿射集(排除只是一个点)
是凸集
如果
x
0
x_0
x0为原点,就是凸锥
超平面与半空间
{ x ∣ a T x = b } x , a ∈ R      b ∈ R      a ̸ = 0 \lbrace x| a^Tx = b\rbrace \quad x,a\in R \;\; b\in R \;\; a \not= 0 {x∣aTx=b}x,a∈Rb∈Ra̸=0
a
T
x
=
b
a^Tx = b
aTx=b 这条直线就是超平面。以此平面分割的空间为半空间。
超平面是仿射集、凸集,如果过原点是凸锥。
半空间不是仿射集,是凸集,如果过原点就是凸锥。
球和椭球
球:
B
(
x
c
,
r
)
=
{
x
∣
    
∣
∣
x
−
x
c
∣
∣
2
≤
r
}
=
{
x
∣
(
x
−
x
c
)
T
(
x
−
x
c
)
≤
r
}
B(x_c,r)=\lbrace x|\;\;||x-x_c||_2 \leq r \rbrace = \lbrace x|\sqrt{(x-x_c)^T(x-x_c)} \leq r \rbrace
B(xc,r)={x∣∣∣x−xc∣∣2≤r}={x∣(x−xc)T(x−xc)≤r}
二维空间的球是凸集,不是仿射集(排除一个点),不是凸锥(排除原点)。
∀
x
1
,
x
2
∈
B
∣
∣
x
1
−
x
c
∣
∣
2
≤
r
∣
∣
x
2
−
x
c
∣
∣
2
≤
r
\forall x_1,x_2 \in B \quad ||x_1-x_c||_2 \leq r \quad ||x_2-x_c||_2 \leq r
∀x1,x2∈B∣∣x1−xc∣∣2≤r∣∣x2−xc∣∣2≤r
证明其凸组合还在求内
∀
  
0
≤
θ
≤
1
\forall \; 0 \leq \theta \leq 1
∀0≤θ≤1
证:
∣
∣
θ
x
1
+
(
1
−
θ
)
x
2
−
x
c
∣
∣
2
≤
?
r
|| \theta x_1+ (1-\theta) x_2 - x_c ||_2 \leq^? r
∣∣θx1+(1−θ)x2−xc∣∣2≤?r
    
=
∣
∣
θ
(
x
1
−
x
c
)
+
(
1
−
θ
)
(
x
2
−
x
c
)
∣
∣
2
\;\;=|| \theta (x_1-x_c)+ (1-\theta)( x_2 - x_c) ||_2
=∣∣θ(x1−xc)+(1−θ)(x2−xc)∣∣2
    
≤
∣
∣
θ
(
x
1
−
x
c
)
∣
∣
+
∣
∣
(
1
−
θ
)
(
x
2
−
x
c
)
∣
∣
2
\;\; \leq || \theta (x_1-x_c)||+ ||(1-\theta)( x_2 - x_c) ||_2
≤∣∣θ(x1−xc)∣∣+∣∣(1−θ)(x2−xc)∣∣2
\quad\quad
因为:
∣
∣
a
+
b
∣
∣
≤
∣
∣
a
∣
∣
+
∣
∣
b
∣
∣
||a+b|| \leq||a||+||b||
∣∣a+b∣∣≤∣∣a∣∣+∣∣b∣∣
    
=
θ
∣
∣
(
x
1
−
x
c
)
∣
∣
+
(
1
−
θ
)
∣
∣
(
x
2
−
x
c
)
∣
∣
2
\;\; = \theta||(x_1-x_c)||+ (1-\theta)||( x_2 - x_c) ||_2
=θ∣∣(x1−xc)∣∣+(1−θ)∣∣(x2−xc)∣∣2
    
≤
r
\;\; \leq r
≤r
椭球:
ϵ
(
x
c
,
P
)
=
{
x
∣
(
x
−
x
c
)
T
P
(
x
−
x
c
)
}
x
c
∈
R
n
P
∈
S
+
+
n
\epsilon(x_c,P)=\lbrace x|(x-x_c)^TP(x-x_c) \rbrace \quad x_c \in R^n\quad P \in S_{++}^n
ϵ(xc,P)={x∣(x−xc)TP(x−xc)}xc∈RnP∈S++n
S
+
+
n
:
n
∗
n
\quad S_{++}^n:n*n
S++n:n∗n维对称正定矩阵
P
=
r
2
I
n
P=r^2 I_n
P=r2In
取这样的
P
P
P 椭球就变成了球
椭球是凸集
P P P描述椭球的半轴长,由奇异值决定 { λ i } \lbrace \lambda_i \rbrace {λi}
矩阵A的奇异值Singular Value
e
i
g
eig
eig表示特征值
e
i
g
(
A
T
A
)
\sqrt{eig(A^TA)}
eig(ATA)表示矩阵A的奇异值
正定矩阵所有奇异值大于0
例:
计算出矩阵的特征值为4和1,开根号后为2和1,对应于半轴长。