【第1章】凸集——仿射集合和凸集

---

Date: 2020/04/04
Editor:萧潇子（Jesse）
Contact: 1223167600@qq.com

---

1.仿射集合和凸集

在介绍凸集概念之前,我们先介绍一下基本的集合概念

1.1直线与线段

假设空间 $R^n$ 中存在两个点 $x_1\ne x_2$,考虑如下方程式:
$$\begin{array}{rl}y& =\theta x_1+(1-\theta )x_2\\ & =x_2+\theta (x_1-x_2)\end{array}$$

• $\theta \in R$,代表一条直线
• $\theta \in [0,1]$,代表线段 (见下图深色阴影所示)
• 

---

1.2仿射集合

定义：

一个集合是仿射集，若$\forall x_1,x_2\in C$ 则连接$x_1$与$x_2$的直线也在集合内
把上述定义进行泛化:
设：$x_1{x}_2,\cdots x_k\in C$, ${\theta }_1,{\theta }_2,\cdots ,{\theta }_k\in R$ 且 ${\theta }_1+{\theta }_2+\cdots +{\theta }_k=1$

泛化(仿射组合):

$${\theta }_1{x}_1+{\theta }_2{x}_2+\cdots +{\theta }_k{x}_k\in C$$
证明:
假设存在三点 $x_1,x_2,x_3$ , ${\theta }_1+{\theta }_2+{\theta }_3=1$ 首先考虑使用 $x_1,x_2$ 两点构建在$C$内的一点:
$$\frac{{\theta }_1}{{\theta }_1+{\theta }_2}{x}_1+\frac{{\theta }_2}{{\theta }_1+{\theta }_2}{x}_2\in C$$
加上 $x_3$ 构建:
$$({\theta }_1+{\theta }_2)(\frac{{\theta }_1}{{\theta }_1+{\theta }_2}{x}_1+\frac{{\theta }_2}{{\theta }_1+{\theta }_2}{x}_2)+(1-{\theta }_1-{\theta }_2)x_3\in C$$
展开上式得;
$${\theta }_1{x}_1+{\theta }_2{x}_2+{\theta }_3{x}_3\in C$$
因此泛化正确.

性质:

存在特殊仿射集合 $V$ 满足更一般的情况:
$$\alpha x_1+\beta x_2\in V\alpha \beta \in R$$
如下图中绿色直线所示:

构造 V = C − x 0 = { x − x 0 ∣ x ∈ C } V = C -x_0=\{x-x_0|x\in C\} V=C−x0​={x−x0​∣x∈C} $\forall x_0\in C$

构造新的仿射集合$V$是与$C$相关的子空间（$C$平移$x_0$），子空间 $V$ 经过原点

证明：

$\forall v_1,v_2\in V$ $\forall \alpha ,\beta \in R\Rightarrow \alpha v_1+\beta v_2\in V$

即：$\alpha v_1+\beta v_2+x_0\in C$

$$\Leftarrow \underset{\in C}{\alpha (v_1+x_0)}+\underset{\in C}{\beta (v_2+x_0)}+\underset{\in C}{(1-\alpha -\beta )x_0}\in C$$

例子:
线性方程组的解集是仿射集(反之也成立)
C = { x ∣ A x = b }    ∀ ∈ R m × n    b ∈ R m   x ∈ R n C=\{x|Ax=b\} \ \ \forall \in R^{m\times n} \ \ b\in R^m \ x\in R^n C={x∣Ax=b}  ∀∈Rm×n  b∈Rm x∈Rn

构造新的子空间仿射集：
V = { x − x 0 ∣ x ∈ C } ∀ x 0 ∈ C = { x − x 0 ∣ A x = b } A x 0 = b = { x − x 0 ∣ A ( x − x 0 ) = 0 } = { y ∣ A y = 0 } → 化 零 空 间 \begin{aligned} V &= \{x-x_0|x\in C\}\quad \forall x_0 \in C\\ &= \{x-x_0|Ax=b\}\quad Ax_0=b \\ &= \{x-x_0|A(x-x_0)=0\} \\ &= \{y|Ay=0\}\rightarrow 化零空间 \end{aligned} V​={x−x0​∣x∈C}∀x0​∈C={x−x0​∣Ax=b}Ax0​=b={x−x0​∣A(x−x0​)=0}={y∣Ay=0}→化零空间​

任意集合$C$， 构造尽可能小的仿射集
仿射包 a f f C = { θ 1 x 1 + ⋯ + θ k x k   ∣   ∀ x 1 , ⋯   , x k ∈ C ,   ∀ θ 1 + ⋯ + θ k = 1 } \mathop{aff}C=\{\theta_1 x_1+\cdots +\theta_k x_k\ |\ \forall x_1,\cdots,x_k\in C,\ \forall \theta_1+\cdots+\theta_k=1\} affC={θ1​x1​+⋯+θk​xk​ ∣ ∀x1​,⋯,xk​∈C, ∀θ1​+⋯+θk​=1}

---

1.3凸集

定义:

一个集合$C$是凸集，当任意连接两点，空间的两点仍然在$C$内
$C$ is convex $⟺$ $\forall x_1,x_2\in C\forall \theta \in [0,1]\theta x_1+(1-\theta )x_2\in C$ （凸集是仿射集的特例）

设：$x_1{x}_2,\cdots x_k\in C$, ${\theta }_1,{\theta }_2,\cdots ,{\theta }_k\in R$ & ${\theta }_1+{\theta }_2+\cdots +{\theta }_k=1$ & $\theta_1 \cdots \theta_k \in [0,1] $

泛化:

凸组合 ${\theta }_1{x}_1+{\theta }_2{x}_2+\cdots +{\theta }_k{x}_k\in C$, $\forall x_1,\cdots ,x_k\in C,\forall {\theta }_1\cdots {\theta }_k\in [0,1],\forall {\theta }_1+\cdots +{\theta }_k=1$

$C$为凸集$\iff$任意元素凸组合$\in C$

凸包$C\in R^n$

C = { θ 1 x 1 + ⋯ + θ k x k   ∣   ∀ x 1 , ⋯   , x k ∈ C ,   ∀ θ 1 ⋯ θ k ∈ [ 0 , 1 ] ,   ∀ θ 1 + ⋯ + θ k = 1 } C=\{\theta_1 x_1+\cdots +\theta_k x_k\ |\ \forall x_1,\cdots,x_k\in C,\ \forall \theta_1\cdots\theta_k\in [0,1],\ \forall \theta_1+\cdots+\theta_k=1\} C={θ1​x1​+⋯+θk​xk​ ∣ ∀x1​,⋯,xk​∈C, ∀θ1​⋯θk​∈[0,1], ∀θ1​+⋯+θk​=1}

---

1.4锥 凸锥

定义:

$C$是锥$\iff$$\forall x\in C$ $\theta \ge 0$ 有 $\theta x\in C$

$C$是凸锥$\iff$$\forall x_1,x_2\in C$ ${\theta }_1,{\theta }_2\ge 0$ 有 $x_1{\theta }_1+x_2{\theta }_2\in C$

泛化:

凸锥组合 ${\theta }_1{x}_1+{\theta }_2{x}_2+\cdots +{\theta }_k{x}_k$ , ${\theta }_1\cdots {\theta }_k\ge 0$

凸锥包 C = { θ 1 x 1 + ⋯ + θ k x k   ∣   ∀ x 1 , ⋯   , x k ∈ C ， θ 1 ⋯ θ k ≥ 0 } C=\{\theta_1 x_1+\cdots +\theta_k x_k\ |\ \forall x_1,\cdots,x_k\in C，\theta_1 \cdots \theta_k \ge 0 \} C={θ1​x1​+⋯+θk​xk​ ∣ ∀x1​,⋯,xk​∈C，θ1​⋯θk​≥0}

---

1.5总结

• 仿射组合: $\forall {\theta }_1,{\theta }_2,\cdots ,{\theta }_k\in R$, ${\theta }_1+{\theta }_2+\cdots +{\theta }_k=1$
• 凸组合: $\forall {\theta }_1,{\theta }_2,\cdots ,{\theta }_k\in R$, ${\theta }_1+{\theta }_2+\cdots +{\theta }_k=1$ , ${\theta }_1\cdots {\theta }_k\in [0,1]$
• 凸锥组合: $\forall {\theta }_1,{\theta }_2,\cdots ,{\theta }_k\in R$, ${\theta }_1\cdots {\theta }_k\ge 0$

---

1.6参考

1、Stephen Boyd 、Lieven Vandenberghe——《Convex Optimization》）
2、中科大凌青凸优化 (https://www.bilibili.com/video/BV1Jt411p7jE?)