凸优化学习-（三）仿射集

凸优化学习

今天主要是几个概念的讲解，凸集，仿射集

学习笔记

一、仿射集（Affine Sets）

这是最简单的凸集，是凸集的一个特例。

定义一

文字：
一个集合$C$是仿射集，若$\forall x_1,x_2\in C$，则连接$x_1,x_2$的直线也在集合$C$内。
数学：
$$\begin{gathered} \forall x_1,x_2\in C,{\zeta }_1:y=\theta x_1+(1-\theta )x_2\subset C \\ {x}_1\ne x_2{x}_1,x_2\in R^n\theta \in R \end{gathered}$$
例一

在图一中，若$C$是过$x_1,x_2$的直线，则$C$为仿射集；若若$C$是以$x_1,x_2$为起点、终点的线段，则$C$不为仿射集（此时为凸集，后面会讲）。
例二

图二 图二中的一个二维空间也是仿射集

定义二

若集合$C$是仿射集，那么从中任意取出$k$个点，这$k$个点的仿射组合也在C内。

这个定义用到了一个仿射组合的概念，仿射组合的定义为$$\begin{gathered} {\theta }_1{x}_1+,\cdots ,+{\theta }_k{x}_k， \\ 其中x1,\cdots ,x_k\in C,{\theta }_1+,\cdots ,+{\theta }_k=1 \end{gathered}$$
那么定义二也可以写成：
若集合$C$是仿射集，那么从中任意取出$k$个点，${\theta }_1{x}_1+,\cdots ,+{\theta }_k{x}_k\in C$，其中${\theta }_1+,\cdots ,+{\theta }_k=1$。

两定义比较

需要说明的是，定义二虽然在$k=2$时就退化成定义一，但定义一和定义二是相等的。由定义一可以推$k=3,4,\cdots ,n$的情况。

一种由普通仿射集构造特殊仿射集的方法

一般仿射集定义如下：
$$x_1,x_2\in C,若\theta x_1+(1-\theta )x_2\in C,则C是仿射集$$

考虑一个特殊仿射集：

$$x_1,x_2\in V,\alpha x_1+\beta x_2\in V，\alpha ,\beta \in R$$
这个集合在显然为仿射集，如果你不太明白，可以把这个集合想成包括了$\alpha +\beta =1$时的情况的一种集合，即$x_1,x_2$的仿射组合一定也是在里面的。
并且这个组合有一个很好的性质，它是包含空间原点的。
构造特殊仿射集的方法
对于仿射集$C$，定义集合 V = C − x 0 = { x − x 0 ∣ x ∈ C , x 0 ∈ C V=C-x_0=\lbrace x-x_0 \mid x\in C,x_0\in C V=C−x0​={x−x0​∣x∈C,x0​∈C
$V$即为我们所需的特殊仿射集，$V$也称与$C$相关的子空间（一定经过原点）。
下面给出证明
证明：
  要证：$V$为仿射集,且$\alpha v_1+\beta v_2\in V\forall v_1,v_2\in V,\forall \alpha ,\beta \in R\Rightarrow \alpha v_1+\beta v_2\in V$
  即证：$\alpha v_1+\beta v_2+x_0\in C$
  $\Leftarrow \alpha (v_1+x_0)+\beta (v_2+x_0)+(1-\alpha -\beta )x_0\in C$
最后一步理解为三个属于$C$的点做仿射组合。

一种特殊仿射集

线性方程组的解集。
即任意仿射集可以写成一组线性方程组的解集，反之亦然。
线性方程组：
C = { x ∣ A x = b }      A ∈ R m ⋅ n , b ∈ R m , x ∈ R n C=\lbrace x \mid Ax=b \rbrace \ \ \ \ A \in R^{m\cdot n},b \in R ^m,x \in R^n C={x∣Ax=b}    A∈Rm⋅n,b∈Rm,x∈Rn（$R$为向量，$m,n$为维数）
下面给出证明
证明：
 要证：对$\forall x_1,x_2\in C,\theta x_1+(1-\theta )x_2\in C，C$,是线性方程组$Ax=b$的解
 即证：$A(\theta x_1+(1-\theta )x_2)=b$
    $=\theta A{x}_1+(1-\theta )A{x}_2$
    $=b$

重要知识点

关于线性方程组的解集的子空间是$A$的子空间。
下面给出证明
证明：
V = { x − x 0 ∣ x ∈ C }      ∀ x 0 ∈ C = { x − x 0 ∣ A x = b } , A x 0 = b = { x − x 0 ∣ A ( x − x 0 ) = 0 = { y ∣ A y = 0 } \begin{aligned} V &=\lbrace x-x_0\mid x\in C \rbrace \ \ \ \ \forall x_0 \in C \\ & =\lbrace x-x_0 \mid Ax=b \rbrace,Ax_0=b \\ &=\lbrace x-x_0 \mid A(x-x_0)=0 \\ &=\lbrace y \mid Ay=0 \rbrace \end{aligned} V​={x−x0​∣x∈C}    ∀x0​∈C={x−x0​∣Ax=b},Ax0​=b={x−x0​∣A(x−x0​)=0={y∣Ay=0}​

个人思考

记住仿射集最重要的一个特质：集合内任意两点构成的直线仍在集合内即可。其余的各种推导和证明都是在过定义，带进去就可以了。

纸质笔记