漫步凸分析二——凸集和锥

对于$R^n$中的子集$C$，当$x\in C,y\in C,0<\lambda<1$ 时，$(1-\lambda)x+\lambda y\in C$，那么我们说集合$C$是凸的。所以仿射集(包括$\emptyset$和$R^n$本身)是凸的，之所以凸集比仿射集更普遍是因为对于不同的点$x,y$，凸集只包含通过$x,y$直线的一部分，也就是

$$\{(1-\lambda)x+\lambda y|0\leq\lambda\leq1\}$$

这部分叫做$x,y$之间的(闭)线段，例如$R^3$中的实心椭球和立方体是凸的但不是仿射的。

半平面是非常重要的凸集，对于任意非零$b\in R^n,\beta\in R$，集合

$$\{x|\langle x,b\rangle\leq\beta\},\quad \{\langle x,b\rangle\geq\beta\}$$

为闭半空间，集合

$$\{x|\langle x,b\rangle<\beta\},\quad \{\langle x,b\rangle>\beta\}$$

为开半空间。这四个集合是非空的并且是凸的，注意如果$b,\beta$被$\lambda b,\lambda\beta$替换后得到的四个半空间跟之前是一样的，其中$\lambda\neq0$，由此可知这些半空间只取决于超平面$H=\{x|\langle x,b\rangle=\beta\}$(定理1.3)，所以给定一个超平面，我们可以明确的说出其对应的开和闭半空间。

定理2.1 任意个凸集的交集是凸的。

推论2.1.1 令$b_i\in R^n,\beta_i\in R$，其中$i\in I$，$I$是任意一个索引集，那么集合

$$C=\{x\in R^n|\langle x,b_i\rangle\leq\beta_i,\forall i\in I\}$$

是凸的。

证明：令$C_i=\{x|\langle x,b_i\rangle\leq\beta_i\}$，那么$C_i$是一个闭半空间或者$R^n$或者$\emptyset$，而$C=\cap_{i\in I}C_i$。$||$

当然，如果推论中的不等式$\leq$换成$\geq,>,<$或者$=$，结论依然成立，因此给定一个含$n$个变量的联立线性不等式和等式组，解集$C$就是$R^n$中的凸集，这在理论和应用中都是一个重要的事实。

推论2.1.1将会被之后介绍的推论4.6.1推广。

可以表示成有限多个$R^n$闭半空间交集的集合称作多面体(polyhedral)凸集，这种集合比一般的凸集具有更好的性质，主要在于他们没有曲率。在19节将会介绍多面体凸集理论，另外，对于研究有限多个联立线性方程组和弱线性不等式组该理论依然适用。

对于向量和

$$\lambda_1x_1+\cdots+\lambda_mx_m$$

如果系数$\lambda_i$都是非负的并且$\lambda_1+\cdots+\lambda_m=1$，那么该向量和称为$x_1,\ldots,x_m$的凸组合。在应用数学中，很多总情况都会出现凸组合，$\lambda_1,\ldots,\lambda_m$可以解释为概率或比例。例如$m$个质量为$\alpha_1,\ldots,\alpha_m$的粒子位于$R^3$中的点$x_1,\ldots,x_m$处，那么整个系统的重心就是点$\lambda_1x_1+\cdots+\lambda_mx_m$，其中$\lambda_i=\alpha_i/(\alpha_1+\cdots+\alpha_m)$。在这个凸组合中，$\lambda_i$是$x_i$质量与整个质量的比例。

定理2.2 对于$R^n$的一个子集，当且仅当它包含其元素的所有凸组合时，这个子集是凸的。

证明：事实上，根据定义，对于集合$C$，当且仅当$x_1\in C,x_2\in C,\lambda_1\geq0,\lambda_2\geq0,\lambda_1+\lambda_2=1$ 时，$\lambda_1x_1+\lambda_2x_2\in C$恒成立，那么集合$C$是凸的。也就是说，$C$是凸的意味着在$m=2$时，集合$C$ 对凸组合运算是封闭的，因此我们必须说明这暗含着在$m>2$ 时$C$对凸组合运算也是封闭的。现在任取$m>2$，利用归纳假设即$C$对于小于$m$个向量的所有凸组合封闭，我们给出$C$ 的一个凸组合$x=\lambda_1x_1+\cdots+\lambda_mx_m$，其中至少有一个系数$\lambda_i$不等于1(否则的话$\lambda_1+\cdots+\lambda_m=m\neq1$)；为了方便起见，令其为$\lambda_1$，令

$$y=\lambda_2^{'}x_2+\cdots+\lambda_m^{'}x_m,\quad \lambda_i^{'}=\lambda_i/(1-\lambda_1)$$

那么对于$i=2,\ldots,m,\lambda_i\geq0$，并且

$$\lambda_2^{'}+\cdots+\lambda_m^{'}=(\lambda_2+\cdots+\lambda_m)/(\lambda_2+\cdots+\lambda_m)=1$$

那么$y$是$C$中$m-1$个元素的凸组合，根据归纳假设$y\in C$。因为$x=(1-\lambda_1)y+\lambda_1x_1$，所以$x\in C$。$||$

包含所有$R^n$子集$S$的凸组合的交集称为$S$的凸包，用conv$\ S$表示，根据定理2.1可知它是凸集，是包含$S$的最小凸集。

定理2.3 对于所有的$S\cap R^n$，conv$\ S$包含$S$的所有凸组合。

证明：$S$的元素属于conv$\ S$，所以根据定理2.2，他们的所有凸组合属于conv$\ S$。另一方面，给定两个凸组合$x=\lambda_1x_1+\cdots+\lambda_mx_m$和$y=\mu_1y_1+\cdots+\mu_ry_r$，其中$x_i\in S,y_j\in S$，那么向量

$$\begin{align*} (1-&\lambda)x+\lambda y\\ &=(1-\lambda)\lambda_1x_1+\cdots+(1-\lambda)\lambda_mx_m+\lambda_1\mu_1y_1+\cdots+\lambda_r\mu_ry_r \end{align*}$$

是$S$的另一个凸组合，其中$0\leq\lambda\leq1$。由此可知，$S$凸组合组成的集合其本身就是一个凸集，另外它包含$S$，所以它肯定和最小凸集(conv$\ S$) 是一致的。$||$

实际上，对于定理2.3，我们可以一次考虑$n+1$个或更少元素的凸组合，这个重要的改进将会在17节进行证明，也就是所谓的Caratheodory定理另一个关于定理2.3的改进会在定理3.3中给出。

推论2.3.1 $R^n$中有限个子集$\{b_0,\ldots,b_m\}$的凸包由所有形如$\lambda_0b_0+\cdots+\lambda_mb_m$的向量组合，其中$\lambda_0\geq0,\ldots,\lambda_m\geq0,\lambda_0+\cdots+\lambda_m=1$。

证明：所有从$\{b_0,\ldots,b_m\}$中选出元素产生的凸组合可以表示成$b_0,\ldots,b_m$的凸组合，对于那些没有用到的向量$b_i$，可以将其系数置为0。$||$

如果集合是有限多个点的凸包，那么我们称该集合为多面体。如果$\{b_0,b_1,\ldots,b_m\}$是仿射无关的，那么它的凸包叫做$m$维单纯形，并且$b_0,\ldots,b_m$叫做单纯形的顶点。在aff$\{b_0,b_1,\ldots,b_m\}$上用重心坐标表示的话，单纯形的每个点都可以唯一地表示成顶点的凸组合，$\lambda_0=\cdots=\lambda_m=1/(1+m)$的点$\lambda_0b_0+\cdots+\lambda_mb_m$叫做单纯形的中点或者重心，当$m=0,1,2,3$时，单纯形分别是点，(闭)线段，三角形或四面体。

一般情况下，凸集$C$的维数就是$C$仿射包的维数，因此对于一个凸圆盘而言，无论它被嵌入到几维的空间，它的维数都是二。(仿射集或单纯形的维数与他们作为凸集时的维数一样)下面的事实将会用于第6节的证明，也就是非空凸集具有非空的相对内点。

定理2.4 凸集$C$的维数是所有含与$C$中单纯形的最大值维数。

证明：$C$任意子集的凸包都含在$C$中，所有含于$C$单纯形的最大维数是$m$，使得$C$包含一个含有$m+1$个元素的仿射无关集。令$\{b_0,b_1,\ldots,b_m\}$是有$m$个极大值的集合，并且零$M$是仿射包，那么$\dim M=m,M\in \text{aff}C$，更进一步$C\in M$，因为如果$C\backslash M$ 包含元素$b$，那么$C$中$m+2$个元素$b_0,\ldots,b_m,b$ 集合僵尸仿射无关的，这与最大值$m$矛盾。(即，aff$\{b_0,\ldots,b_m,b\}$将包含$M$，因此将超过$m$ 维)因为aff${\ C}$ 是包含$C$的最小仿射集，所以$\text{aff}\ C=M$，由此得出$\dim C=m$。$||$

对于$R^n$的子集$K$，如果它对于正标量乘法封闭，即当$x\in K,\lambda>0$时$\lambda x\in K$，那么该集合叫做锥。这样的集合是从原点发出射线的并，该集合可能包含原点，也可能不包含。当锥还是一个凸集的时候我们成它为凸锥，(注意，许多作者在$K$含有原点的时候才成为凸锥，因此，对于这些作者而言，凸锥就是对非负标量乘法封闭的非空凸集。)

我们不该认为凸锥就是尖的，尤其是$R^n$的子空间就是凸锥，对于通过原点的超平面，它多对应的开和闭半空间也是凸锥。

两个最重要的凸锥就是$R^n$的非负象限

$$\{x={\xi_1,\ldots,\xi_n}|\xi_1\geq0,\ldots,\xi_n\geq0\}$$

和正象限

$$\{x={\xi_1,\ldots,\xi_n}|\xi_1>0,\ldots,\xi_n>0\}$$

这些锥在不等式理论中都是很有用的，习惯上如果$x-x^{'}$属于非负象限，我们就写作$x\geq x^{'}$，即

$$\xi_j\geq\xi_j^{'},\quad j=1,\ldots,n.$$

利用这个符号，非负象限由向量$x$组成，其中$x\geq0$。

定理2.5 任意个凸锥的交集是凸锥。

推论2.5.1 对于$i\in I$，令$b_i\in R^n$，其中$I$是一个任意的索引集，那么

$$K=\{x\in R^n|\langle x,b_i\rangle\leq0,i\in I\}$$

是一个凸锥。

证明：如同推论2.1.1。$||$

当然，推论2.5.1中的$\leq$可能用$\geq,>,<$或者$=$替换，因此如果线性不等式是齐次的话，它的解集是一个凸锥，而不仅仅是凸集。

下面介绍的凸锥特征强调的是凸锥和子空间的相似性。

定理2.6 对于$R^n$的一个子集，当且仅当它对加法和正标量乘法封闭时，这个子集是凸锥。

证明：令$K$是一个锥，$x\in K,y\in K$，如果$K$是凸的，那么向量$z=(1/2)(x+y)$属于$K$，因此$x+y=2z\in K$。另一方面，如果$K$对加法封闭，并且$0<\lambda<1$，那么向量$(1-\lambda)x,\lambda y$属于$K$，于是$(1-\lambda)x+\lambda y\in K$，因此当且仅当它对加法封闭时$K$是凸的。$||$

推论2.6.1 对于$R^n$的一个子集，当且仅当它包含其元素的所有正线性组合时(即线性组合$\lambda_1x_1+\cdots+\lambda_mx_m$，其中系数都是正的)，该集合是凸锥。

推论2.6.2 令$S$是$R^n$的任意子集，并且令$K$是$S$中所有正线性组合的集合，那么$K$是包含$S$的最小凸锥。

证明：很明显$K$对加法和正标量乘法封闭，并且$K\supset S$，另一方面，每个包含$S$的凸集肯定包含$K$。$||$

当$S$是凸集时，更简单的描述如下

推论2.6.3 令$C$是凸集，并且

$$K=\{\lambda x|\lambda>0,x\in C\}$$

那么$K$是包含$C$的最小凸锥。

证明：这个结论可以根据前面的推论得出。即，$C$中元素的所有正线性组合是$C$中元素的凸组合乘以正标量值，也就是$K$中的元素。$||$

推论2.6.2(或者推论2.6.3)中，通过将原点伴随到锥中而得到的凸锥就是所谓由$S$生成的凸锥，用cone$\ S$表示。(因此在我们的定义中，由$S$生成的凸锥和包含$S$的最小凸锥是不一样的，除非后者正好包含原点。)如果$S\neq\emptyset$，cone$\ S$由$S$的所有非负(不是正)线性组合组成，显然

$$\text{cone}=\text{conv}(\text{ray}\ S)$$

其中ray$\ S$是原点和非零向量$y\in S$产生的不同射线(形如$\{\lambda y|\lambda\geq0\}$的射线)的并。

就像椭圆盘可以看成实心圆锥的某个横截面一样，$R^n$中的每个凸集$C$可以看成$R^{n+1}$中某个凸锥$K$的横截面。事实上，令$K$表示$R^{n+1}$中集合$(1,x)$生成的凸锥，其中$x\in C$，那么$K$是由$R^{n+1}$的原点和$(\lambda,\lambda x)$组成的，其中$\lambda>0,x\in C$。$K$和超平面$\{(\lambda,y|\lambda=1)\}$的交可以视为$C$，依据这个事实，我们可以从对应的(通常更加简单)凸锥定理中推断出凸集定理。

对于凸集$C$在点$a$处的向量$x^*$，如果$x^*$和$C$中以$a$ 为端点的所有直线夹角不是锐角，即对每个$x\in C,\langle x-a,x^*\rangle\leq0$，那么就称$x^*$是法向量。例如，如果$C$是半空间$\{x|\langle x,b\rangle\leq\beta\}$并且$a$ 满足$\langle a,b\rangle=\beta$，那么$b$是$C$在$a$ 处的法向量。一般来说，$C$在$a$处的所有法向量$x^*$组成的集称为$C$在$a$处的法锥(normal cone)，很容易证实这个锥一直是凸的。

另一个容易证实的凸锥实例是凸集$C$的屏障锥(barrier cone)，也就是对于每个$x\in C$，存在$\beta\in R$，使得$\langle x,x^*\rangle\leq\beta$的所有向量$x^*$的集合。

每个包含0的凸锥都和一对子空间相关联，具体如下所示。

定理2.7 令$K$是包含0的凸锥，那么存在一个最小的包含$K$的子空间，即

$$K-K=\{x-y|x\in K,y\in K\}=\text{aff}\ K$$

并且有一个最大的含于$K$的子空间，即$(-K)\cap K$

证明：根据定理2.6，$K$对加法和正标量乘法封闭。为了成为子集，进一步，集合还包含0并且对-1的乘法封闭，显然$K-K$ 是满足条件的最小集合(包含$K$)，$(-K)\cap K$是满足条件的最大集合(含于$K$)。前者肯定和aff$\ K$一致，因为包含0的集合的仿射包是一个子空间(根据定理1.1)。$||$