凸集的分离定理

在$R^n$中，我们有个直观的事实是：一个超平面（必须是 n-1 维的）将整个空间分为两个部分，也就是说这个超平面将$R^n$分成了两个闭的半空间，这两个闭的半空间称为与Ｈ相关的闭的半空间。同样的可以定义与H相关的两个开的半空间。

（一 ） 定义：

1.1称一个超平面H可以分离（separate）两个非空的集合$C_1$,$C_2$,当$C_1$和$C_2$分别包含在两个与Ｈ相关的闭的半空间中。

1.2 如果Ｈ可以分离$C_1,C_2$,并且$C_1,C_2$不同时包含在H中，此时称H可以正常分离(separate properly) $C_1,C_2$。

1.3 如果存在$\epsilon>0$使得$C_1+\epsilon B$和$C_2+\epsilon B$分别在与H相关的两个开的半空间中，则称H可以强分离（separate strongly）$C_1,C_2$.

（二）关于凸集的一些性质：(都可以根据定义直接验证)

2.1 C是凸集，那么有 :

$$cl(ri \,C)=cl \,C\quad ri(cl\,C)=ri\,C$$
2.2 C是凸集，A是一个从 $R^n$到 $R^m$的线性变换，那么有：
$$ri(AC)=A(ri\,C)\quad A(cl\,C)\subset cl(AC)$$
2.3 (作为2.2的推论）令
$$A:(x_1,x_2)\rightarrow x_1+x_2$$
这时 $C_1+C_2=A(C_1\oplus C_2)$,那么有：
$$ri(C_1+C_2)=ri\,C_1+ri\,C_2\quad cl\,C_1+cl\,C_2\subset cl(C_1+C_2)$$

（三）几种分离情况的刻画： （对于一般的集合，不一定是凸集）

定理1. $C_1,C_2$是非空集合，存在将$C_1,C_2$正常分离的超平面的充分必要条件是存在一个向量$b$ 使得满足下面两个条件：
（a） $\inf\{<x,b>|x\in C_1\}\ge \sup\{<x,b>|x\in C_2\}$
（b） $\sup\{<x,b>|x\in C_1\}> \inf\{<x,b>|x\in C_2\}$
存在将$C_1,C_2$强分离的超平面的充分必要条件是存在一个向量$b$ 使得满足下面的条件：
（c）$\inf\{<x,b>|x\in C_1\}>\sup\{<x,b>|x\in C_2\}$

注：这个定理很直观，证明只需用定义就能完成。但是却很重要：从上面可以看出， 两个集合是否能分离是一个存在性问题，所以它将会在证明存在性的命题中发挥重要作用；通常我们有一个向量$b$ 满足一些性质，且我们可以由这些性质构造两个凸集，那么这是向量$b$ 的存在性就等价于分离超平面的存在性。这是处理问题的一个思路。

（四）构造分离超平面的一般思路

这是一个非常基本的问题，一种思路是从所有的超平面里面选择满足条件的（利用选择公理），但是不具有可操作性。下面介绍有限步内可以终止的思路。

定理2. $R^n$中，C是非空，相对开的凸集，M是一个与Ｃ不想交的非空仿射集（假设Ｍ不是n-1维的）。那么存在一个包含M的超平面H使得，与H相关的一个开的半空间包含C。
（H的构造过程）：不妨设$0\in M$ (否则平移），此时M是子空间
$0\notin C-M$但是$C\subset C-M$
M 不是超平面，$M^{\perp}$包含一个2维的子空间P
令$C'=P\cap (C-M)$, 那么$C'\subset P$且不包含0
那么我们容易找到包含在P中且通过0的直线L，L与C’ 不交
最后令M=M+L，重复以上过程。

（五）凸集分离的主要定理

定理3. $C_1,C_2$是两个凸集，那么存在正常分离$C_1,C_2$的超平面当且仅当$ri\,C_1 \cap ri\, C_2=\emptyset$.
证明：令$C=C_1-C_2$, $M=\{0\}$
再由性质2.3，定理1和定理2.

定理4. $C_1,C_2$是两个凸集，那么存在强分离$C_1,C_2$的超平面当且仅当$\inf\{|x_1-x_2||x_1\in C_1,x_2\in C_2\}>0$, 也即：$0\notin cl(C_1-C_2)$。

定理4. 一个闭的凸集Ｃ是所有包含他的闭的半空间的交。
证明：令$C_1=\{a\}$, $C_2=C$, $\forall a\notin C$
利用上面的定理即可。
注：令S是任意集合，由于包含S的闭的半空间同时也是包含$C=cl(conv\, S)$的半空间，反之亦然，所以$cl(conv\, S)$是所有包含S的闭的半空间的交。