漫步凸分析六——凸集的相对内点

根据定义，$R^n$中点$x,y$之间的欧几里得距离是

$$d(x,y)=|x-y|=\langle x-y,x-y\rangle^{1/2}$$

函数$d$(欧几里得度量)是$R^{2n}$上的凸函数，(这个结论基于的事实是：将欧几里得范数$f(z)=|z|$和从$R^{2n}$到$R^n$的线性变换$(x,y)\to x-y$结合即可)$R^n$中我们熟悉的闭集(closed set)，开集(open set)，闭包(closure)和内点(interior)这些拓扑概念通常可以用向量相对于欧几里得度量收敛的形式引入，但是这种收敛等价于$R^n$ 中一向量序列收敛。

下面我们将看到$R^n$中凸集的拓扑概念比其他集合都要简单。

凸函数是开集和闭集的一个重要来源，$R^n$上任意连续实值函数$f$有开水平集$\{x|f(x)<\alpha\}$和闭水平集$\{x|f(x)\leq\alpha\}$，并且当$f$是凸时这些集合也是凸的(定理4.6)。

本文中，我们将用$B$表示$R^n$中的欧几里得单位球(Euclidean unit ball)：

$$B=\{x||x|\leq1\}=\{x|d(x,0)\leq1\}$$

这是一个凸集(欧几里得范数的一个水平集，欧几里得范数是连续且凸的)，对于任意$a\in R^n$，圆心为$a$半径为$\varepsilon>0$的球为

$$\{x|d(x,a)\leq\varepsilon\}=\{a+y||y|\leq\varepsilon\}=a+\varepsilon B$$

对于$R^n$上的任意集$C$，与$C$的距离不超过$\varepsilon$ 的点$x$集合是

$$\{x|\exists y\in C,d(x,y)\leq\varepsilon\}=\cup\{y+\varepsilon B|y\in C\}=C+\varepsilon B$$

因此$C$的闭包$\text{cl}\ C$和内点$\text{int}\ C$可以表示成

$$\begin{align*} \text{cl}\ C&=\cap\{C+\varepsilon B|\varepsilon>0\}\\ \text{int}\ C&=\{x|\exists\varepsilon>0,x+\varepsilon B\subset C\} \end{align*}$$

对于凸集，有一个更加方便的概念：相对内点(relative interior)，引入这个概念的原因是嵌入在$R^3$中的线段和三角形没有内点。$R^n$中凸集$C$的相对内点我们用$\text{ri}\ C$表示，当把$C$看成其仿射包$\text{aff}\ C$ 的子集时，其相对内点和内点的定义一样，因此$\text{ri}\ C$由$x\in\text{aff}\ C$ 的点组成，并且存在$\varepsilon>0$，使得$y\in\text{aff}\ C,d(x,y)\leq\varepsilon$时$y\in C$。换句话说，

$$\text{ri}\ C=\{x\in\text{aff}\ C|\exists\varepsilon>0,(x+\varepsilon B)\cap(\text{aff}\ C)\subset C\}$$

显然，

$$\text{ri}\ C\subset C\subset \text{cl}\ C$$

集合差$(\text{cl}\ C)\backslash(\text{ri}\ C)$称为$C$ 的相对边界(relative boundary)，自然地，当$\text{ri}=C$ 时，我们说$C$是相对开的(relatively open)。

对于$n$为凸集，根据定义$\text{aff}\ C=R^n$，所以$\text{ri}\ C=\text{int}\ C$。

注意，当$C_1\supset C_2$时，这就暗含了$\text{cl}\ C_1\supset \text{cl}\ C_2,\text{int}\ C_1\supset\text{int}\ C_2$，但是一般情况下$\text{ri}\ C_1\supset \text{ri}\ C_2$是不成立的。例如，如果$C_1$ 是$R^3$中的立方体，$C_2$是$C_1$的某个面，$\text{ri}\ C_1$和$\text{ri}\ C_2$都非空但不相交。

根据定理仿射集是相对开的，同时是闭的。这个结论基于以下事实：仿射集是超平面的交(推论1.4.1)并且每个超平面$H$可以表示成连续函数的水平集(定理1.3)：

$$H=\{x=(\xi_1,\ldots,\xi_n)|\beta_1\xi_1+\cdots+\beta_n\xi_n=\beta\}$$

另外对于任意$C$

$$\text{cl}\ C\subset\text{cl}(\text{aff}\ C)=\text{aff}\ C$$

因此通过$\text{cl}\ C$中任意两个不同点的直线完全在$\text{aff}\ C$。

平移和$R^n$到自身一对一的仿射变换保留闭包和相对内点，事实上，这样的变换保留仿射包并且两个方向都是连续上(因为在仿射变换下向量$x$像的元素是$x$ 元素$\xi_j$的线性或仿射函数)。建议大家记住这个结论，因为它将会帮助我们简化证明过程。例如，如果$C$是$R^n$中$m$为凸集，利用推论1.6.1存在$R^n$到自身的一对一仿射变换$T$将$\text{aff}\ C$搬运到子空间的位置

$$L=\{x=(\xi_1,\ldots,\xi_m,\xi_{m=1},\ldots,\xi_n)|\xi_{m+1}=0,\ldots,\xi_n=0\}$$

这个$L$可以看成$R^m$的一份拷贝，利用这种方式我们通常可以将一般的凸集问题简化为凸集是全维的情况，即，整个空间就是它的仿射包。

下面关于凸集闭包和相对内点的性质是基本的。

定理6.1 令$C$是$R^n$中的凸集，令$x\in\text{ri}\ C,y\in\text{cl}\ C$，那么对于$0\leq\lambda<1$，$(1-\lambda)x+\lambda y$ 属于$\text{ri}\ C$(自然属于$C$)。

证明：利用前面的讨论，我们可以只考虑$C$是$n$维的情况，这样的话$\text{ri}\ C=\text{int}\ C$。令$\lambda\in[0,1)$，那么我们必须标明对于$\varepsilon>0,(1-\lambda)x+\lambda y+\varepsilon B$包含在$C$中。因为$y\in\text{cl}\ C$，所以$y\in C+\varepsilon B$，那么对于每个$\varepsilon>0$

$$\begin{align*} (1-\lambda)x+\lambda y+\varepsilon B\subset&(1-\lambda)x+\lambda(C+\varepsilon B)+\varepsilon B\\ &=(1-\lambda)[x+\varepsilon(1+\lambda)(1-\lambda)^{-1}B]+\lambda C \end{align*}$$

根据假设$x\in\text{int}\ C$，所以当$\varepsilon$充分小时，后面那个集合含于$(1-\lambda)C+\lambda C=C$。$||$

下面两个定理描述了$R^n$中所有凸集上的运算$\text{cl},\text{ri}$最重要的性质。

定理6.2 令$C$是$R^n$上的任意凸集，那么$\text{cl}\ C,\text{ri}\ C$是$R^n$上的凸集且和$C$有相同的仿射包，于是维数也相同。(特别地，如果$C\neq\emptyset$，那么$\text{ri}\ C\neq\emptyset$)

证明：对于任意$\varepsilon$，集合$C+\varepsilon B$是凸的，因为它是凸集合的线性组合。对于所有的$\varepsilon>0$，所有这些集合的交是$\text{cl}\ C$，因此$\text{cl}\ C$是凸的。$\text{cl}\ C$的仿射包最起码和$C$的仿射包一样大，因为$\text{cl}\ C\subset\text{aff}\ C$，实际上它和$\text{aff}\ C$是一样大的，$\text{ri}\ C$的凸性是前面定理(取$y$属于$\text{ri}\ C$)的推论。为了完成证明，接下来需要说明当$C$是$n$维的时候$n>0$，$C$的内点非空，$n$为凸集包含一个$n$维单纯形(定理2.4)，然后我们需要说明这样的单纯形$S$有非空内点。我们假设$S$的顶点是向量$(0,0,\ldots,0),(1,0,\ldots,0),\ldots,(0,\ldots,0,1)$:

$$S=\{(\xi_1,\ldots,\xi_n)|\xi_j\geq0,\xi_1+\cdots+\xi_n\leq1\}$$

(如果需要的话可以进行反射变换)，但是这个单纯形有非空内点，即

$$\text{int}\ S=\{(\xi_1,\ldots,\xi_n)|\xi_j>0,\xi_1+\cdots+\xi_n<1\}$$

因此$\text{int}\ S\neq\emptyset$。$||$

对于$R^n$中的任意集$C$，不管凸还是非凸，法则

$$\text{cl}(\text{cl}\ C)=\text{cl}\ C,\quad \text{ri}(\text{ri}\ C)=\text{ri}\ C$$

都是成立的，下面的法则在凸的情况下才成立。

定理6.3 对于$R^n$中的任意凸集$C$，$\text{cl}(\text{ri}\ C)=\text{cl}\ C,\text{ri}(\text{cl}\ C)=\text{ri}\ C$。

证明：因为$\text{ri}\ C\subset C$，所以$\text{cl}(\text{ri}\ C)$含于$\text{cl}\ C$，另一方面，给定任意的$y\in\text{cl}\ C,x\in\text{ri}\ C$(根据上面的定理当$C\neq\emptyset$时这样的$x$肯定存在)，位于$x,y$ 之间的线段除了$y$ 外(定理6.1) 完全位于$\text{ri}\ C$内，因此$y\in\text{cl}(\text{ri}C)$，这就证明了$\text{cl}(\text{ri}\ C)=\text{cl}\ C$。因为$\text{cl}\ C\supset C$并且$\text{cl}\ C$和$C$的仿射包是一致的，所以$\text{ri}(\text{cl}\ C)\supset\text{ri}\ C$。

接下来令$z\in\text{ri}(\text{cl}\ C)$，我们将说明$z\in\text{ri}\ C$。 令$x$是$\text{ri}\ C$中的任一点，(我们假设$x\neq z$，否则的话$z\in\text{ri}\ C$定理成立)考虑通过$x,z$的直线，对于$\mu>1$且$\mu-1$充分小，那么在这条直线上的点

$$y=(1-\mu)x+\mu z=z-(\mu-1)(x-z)$$

属于$\text{ri}(\text{cl}\ C)$因此属于$\text{cl}\ C$。 对于这样的一个$y$，我们可以将$z$表示成$(1-\lambda)x+\lambda y,0<\lambda<1$(特别地$\lambda=\mu^{-1}$)，根据定理6.1，$z\in\text{ri}\ C$。$||$

推论6.3.1 令$C_1,C_2$是$R^n$中的凸集，那么当且仅当$\text{ri}\ C_1=\text{ri}\ C_2,\text{cl}\ C_1=\text{cl}\ C_2$，这个条件等价于$\text{ri}\ C_1\subset C_2\subset\text{cl}\ C_1$。

推论6.3.2 如果$C$是$R^n$上的凸集，那么和$\text{cl}\ C$ 有交点的开集也和$\text{ri}\ C$有交点。

推论6.3.3 如果$C_1$是$R^n$上非空凸集$C_2$相对边界的凸子集，那么$\dim C_1<\dim C_2$。

证明：如果$C_1$和$C_2$有同样的维数，那么它相对于$\text{aff}\ C_2$将会有内点，但是这种点不可能含于$\text{cl}(\text{ri}\ C_2)$，因为$\text{ri}\ C_2$和$C_1$是不相交的，因此他们不可能含于$\text{cl}\ C_2$。$||$

下面介绍的相对内点特征经常被用到，而且非常有用。

定理6.4 令$C$是$R^n$中非空凸集，那么当且仅当对于每个$x\in C$，存在$\mu>1$使得$(1-\mu)x+\mu z$属于$C$时，$z\in\text{ri}\ C$。

证明：定理中的条件意味着$C$中每条以$z$为端点的线段可以在$z$上延长而不离开$C$，如果$z\in\text{ri}\ C$那么这明显为真。反过来，假设$z$满足条件。根据定理6.2，因为$\text{ri}\ C\neq\emptyset$，所以存在一个点$x\in\text{ri}\ C$，令$y$是$C$中对应的点$(1-\mu)x+\mu z,\mu>1$，(根据假设它是存在的)，那么$z=(1-\lambda)x+\lambda y,0<\lambda=\mu^{-1}<1$，因此根据定理6.1$z\in\text{ri}\ C$。$||$

推论6.4.1 令$C$是$R^n$中的凸集，那么当且仅当对于每个$y\in R^n$，存在$\varepsilon>0$使得$z+\varepsilon y\in C$时，$z\in\text{int}\ C$。

接下来我们考虑在凸集上执行同样的运算相对内点将如何变化的问题。

定理6.5 对于$i\in I$(索引集)令$C_i$是$R^n$中的凸集，假设集合$\text{ri}\ C_i$至少有一个公共点，那么

$$\text{cl}\cap\{C_i|i\in I\}=\cap\{\text{cl}\ C_i|i\in I\}$$

如果$I$是有限的，那么

$$\text{ri}\cap\{C_i|i\in I\}=\cap\{\text{ri}\ C_i|i\in I\}$$

证明：固定$x$为任意一个含于集合$\text{ri}\ C_i$交的元素，给定$y$为任意一个含于集合$\text{cl}\ C_i$交的元素，根据定理6.1，向量$(1-\lambda)x+\lambda y$ 属于每个$\text{ri}\ C_i,0\leq\lambda<1$，并且$y$是这个向量随着$\lambda\uparrow 1$时的极限，下式是成立的

$$\cap_i\text{cl}\ C_i\subset\text{cl}\cap_i\text{ri}\ C_i\subset\text{cl}\cap_i C_i\subset\cap_i\text{cl}\ C_i$$

这就建立了本定理的闭包公式，同时它也证明了$\cap_i\text{ri}\ C_i,\cap_i C_i$有相同的闭包。根据推论6.3.1，最后两个集合肯定有相同的相对内点，因此

$$\text{ri}\cap_i C_i\subset\cap_i\text{ri}\ C_i$$

假设$I$是有限的，我们接下来证明反向包含关系，取任意$z\in\cap_i\text{ri}\ C_i$，根据定理6.4，$\cap_i C_i$中任意以$z$为端点的线段可以在每个集合$\cap_i C_i$中稍微延长，这些延长线段的交含于原来线段$\cap_i C_i$之中，这是因为他们只是有限多个。因此根据定理6.4的判定准则$z\in\cap_i C_i$。$||$

当集合$\text{ri}\ C_i$没有公共点时，定理6.5中的公式不成立，考虑$I={1,2}$的一个实例，$C_1$是$R^2$中不含原点的正象限而$C_2$是$R^2$的水平轴，第二个公式中还需要$I$是有限的：对于$\alpha>0$的实区间$[0,1+\alpha]$的交集是$[0,1]$，但是对于$\alpha>0$的实区间$\text{ri}\ [0,1+\alpha]$的交不是$\text{ri}\ [0,1]$。

推论6.5.1 令$C$是凸集，令$M$是仿射集(像直线和超平面)且包含$\text{ri}\ C$中的一个点，那么

$$\text{ri}\ (M\cap C)=M\cap\text{ri}\ C,\quad \text{cl}\ (M\cap C)=M\cap\text{cl}\ C$$

证明：对于仿射集，$\text{ri}\ M=M=\text{cl}\ M$。$||$

推论6.5.2 令$C_1$是凸集，令$C_2$是含于$\text{cl}\ C_1$ 而又没有完全含于$C_1$相对内点的凸集，那么$\text{ri}\ C_2\subset\text{ri}\ C_1$。

证明：推论中的假设暗示$\text{ri}\ C_2$和$\text{ri}(\text{cl}\ C_1)=\text{ri}\ C_1$有一个公共点，否则的话相对边界$\text{cl}\ C_1\backslash\text{ri}\ C_1$将包含$\text{ri}\ C_2$和它的闭包$\text{cl}\ C_2$，因此

$$\text{ri}\ C_2\cap\text{ri}\ C_1=\text{ri}\ C_2\cap\text{ri}(\text{cl}\ C_1)=\text{ri}(C_2\cap\text{cl}\ C_1)=\text{ri}\ C_2$$

即$\text{ri}\ C_2\subset\text{ri}\ C_1$。$||$

定理6.6 令$C$是$R^n$中的凸集，令$A$是从$R^n$到$R^m$的线性变换，那么

$$\text{ri}(AC)=A(\text{ri}\ C),\quad \text{cl}(AC)\supset A(\text{cl}\ C)$$

证明：闭包的包含关系仅仅反映了线性变换是连续的这个事实；它不依赖于$C$是否为凸。为了证明相对内点的结论，我们首先讨论

$$\text{cl}\ A(\text{ri}\ C)\supset A(\text{cl}\ (\text{ri}\ C))=A(\text{cl}\ C)\supset AC\supset A(\text{ri}\ C)$$

这就表明$AC$和$A(\text{ri}\ C)$有相同的闭包，于是根据推论6.3.1也有相同的相对内点，因此$\text{ri}(AC)\subset A(\text{ri}\ C)$。现在假设$z\in A(\text{ri}\ C)$，我们将用定理6.4来表明$z\in\text{ri}(AC)$，令$x$是$AC$中的任意一点，选择任意元素$z^{'}\in\text{ri}\ C,x^{'}\in C$使得$Az^{'}=z,Ax^{'}=x$，存在某个$\mu>1$使得向量$(1-\mu)x^{'}+\mu z^{'}$属于$C$，在$A$的变换下这个向量的像是$(1-\mu)x+\mu z$，于是对于某个$\mu>1,(1-\mu)x+\mu z$属于$AC$，因此$z\in\text{ri}(AC)$。$||$

定理6.6中$\text{cl}(AC)$和$A(\text{cl}\ C)$之间可能的差异将会在第9节讨论。

推论6.6.1 对于任意凸集$C$和任意实数$\lambda$，$\text{ri}(\lambda C)=\lambda\text{ri}\ C$。

证明：取$A:x\to\lambda x$。$||$

对于凸集$C_1\subset R^m,C_2\subset R^p$在$R^{m+p}$中的直和$C_1\oplus C_2$，我们有

$$\begin{align*} \text{ri}(C_1\oplus C_2)&=\text{ri}\ C_1\oplus \text{ri}\ C_2\\ \text{cl}(C_1\oplus C_2)&=\text{cl}\ C_1\oplus \text{cl}\ C_2 \end{align*}$$

当与定理6.6结合时，我们得到下面的事实。

推论6.6.2 对于$R^n$中的任意凸集$C_1,C_2$

$$\begin{align*} \text{ri}(C_1+C_2)&=\text{ri}\ C_1+\text{ri}\ C_2\\ \text{cl}(C_1+C_2)&\supset\text{cl}\ C_1+\text{cl}\ C_2 \end{align*}$$

证明：$C_1+C_2=A(C_1\oplus C_2)$，其中$A$从$R^{2n}$到$R^n$的加法线性变换，即$A:(x_1,x_2)\to x_1+x_2$。$||$

推论6.6.2将会在推论9.1.1和9.1.2中深入讨论。

定理6.7 令$A$是从$R^n$到$R^m$的线性变换，令$C$是$R^m$ 中的凸集，使得$A^{-1}(\text{ri}\ C)\neq\emptyset$，那么

$$\text{ri}(A^{-1}C)=A^{-1}(\text{ri}\ C),\quad \text{cl}(A^{-1}C)=A^{-1}(\text{cl}\ C)$$

证明：令$D=R^n\oplus C$，令$M$是$A$的图像，那么$M$是一个仿射集(事实上如第1节说的那样是一个子空间)并且$M$包含$\text{ri}\ D$中的一个点。令$P$是从$R^{n+m}$到$R^n$的投影$(x,y)\to x$，那么$A^{-1}C=P(M\cap D)$，根据定理6.6和推论6.5.1，我们有

$$\begin{align*} \text{ri}(A^{-1}C) &=P(\text{ri}(M\cap D))=P(M\cap\text{ri}\ D)=A^{-1}(\text{ri}\ C)\\ \text{cl}(A^{-1}C) &\supset P(\text{cl}(M\cap D))=P(M\cap\text{cl}\ D)=A^{-1}(\text{cl}\ C) \end{align*}$$

而$A$的连续性暗含了$\text{cl}(A^{-1}C)\subset A^{-1}(\text{cl}\ C)$。$||$

现在考虑$m=n=2$时定理6.7的一个反例，此时相对内点不满足条件。$C$是$R^2$的不包含原点的正象限，而$A$将$(\xi_1,\xi_2)$投影到$(\xi_1,0)$上。

通过上面的结果可知，对于相对开凸集，有限的交，标量乘法，加法和线性(仿射)变换下取像或原像运算后依然是相对开凸集。

定理6.8 令$C$是$R^{m+p}$中的凸集，对于每个$y\in R^m$，令$C_y$是向量$z\in R^p$的集合，使得$(y,z)\in C$。令$D=\{y|C_y\neq\emptyset\}$，那么当且仅当$y\in\text{ri}\ D,z\in\text{ri}\ C_y$时$(y,z)\in\text{ri}\ C$。

证明：投影$(x,y)\to y$将$C$搬到$D$上，根据定理6.6也将$\text{ri}\ C$搬到$\text{ri}\ D$上。给定$y\in\text{ri}\ D$和仿射集$M=\{(y,z)|z\in R^p\}$，$\text{ri}\ C$中的点就是

$$M\cap\text{ri}\ C=\text{ri}(M\cap C)={(y,z)|z\in\text{ri}\ C_y}$$

公式中的第一个等式由推论6.5.1得出，因此任意给定$y\in\text{ri}\ D$，当且仅当$z\in\text{ri}\ C_y$时我们有$(y,z)\in\text{ri}\ C$。$||$

推论6.8.1 令$C$是$R^n$中的非空凸集，令$K$是$\{(1,x)|x\in C\}$生成的$R^{n+1}$中的凸锥，那么$\text{ri}\ K$由$(\lambda,x)$组成，其中$\lambda>0,x\in\lambda\text{ri}\ C$。

证明：令定理中的$R^m=R,R^p=R^n$。$||$

利用上面介绍的，我们可以构造一个很简单实例。由非空凸集$C$生成的$R^n$中凸锥的相对内点由形如$\lambda x$的向量组成，其中$\lambda>0,x\in\text{ri}\ C$。对于这种锥闭包的形式将会在定理9.8中给出。

仔细观察可以得出，凸锥的相对内点和相对闭包也一直是凸锥，这可以从推论6.6.1中立刻得出，因为对于凸集$C$，当且仅当对每个$\lambda>0$时$\lambda C=C$，这个凸集是凸锥。

定理6.9 令$C_1,\ldots,C_m$是$R^n$中的非空凸集，令$C_0=\text{conv}(C_1\cup\cdots\cup C_m)$。那么

$$\text{ri}\ C_0=\cup\{\lambda_1\text{ri}\ C_1+\ldots+\lambda_m\text{ri}\ C_m|\lambda_i>0,\lambda_1+\cdots+\lambda_m=1\}$$

证明：令$K_i$是$\{(1,x_i)|x_i\in C_i\},i=0,1,\ldots,m$ 生成的$R^{n+1}$中的凸锥，那么

$$K_0=\text{conv}(K_1\cup\cdots\cup K_m)=K_1+\cdots+K_m$$

(定理3.8)，于是利用推论6.6.2

$$\text{ri}\ K_0=\text{ri}\ K_1+\cdots+\text{ri}\ K_m$$

根据推论6.8.1，$\text{ri}\ K_i$由$(\lambda_i,x_i)$组成，其中$\lambda_i>0,x_i\in\lambda_i\text{ri}\ C_i$，因此$x_0\in\text{ri}\ C_0$等价于$(1,x_0)\in\text{ri}\ K_0$，转而等价于

$$x_0\in(\lambda_1\text{ri}\ C_1+\cdots+\lambda_m\text{ri}\ C_m)$$

其中$\lambda_1>0,\ldots,\lambda_m>0,\lambda_1+\cdots+\lambda_m=1$。$||$

定理6.9中$C_0$的闭包将会在定理9.8中讨论。

附：文章PDF版本http://pan.baidu.com/s/1mhGNjuw