支撑函数（support function）

有时候我们对一个线性函数$\langle \cdot,x^*\rangle$在一个凸集$C$上的极值感兴趣，我们研究这个问题的方法是讨论当$x^*$变化时，极值如何变化。所以我们有如下定义：

定义1.
凸集$C$的支撑函数（support function）$\delta^*(x^*|C)$定义为：

$$\delta^*(x^*|C)=\sup\{\langle x, x^*\rangle | x\in C\}$$ .
以上情况对应的是极大化线性函数，相应的可以极小化：
$$\inf\{\langle x,x^*\rangle|x\in C\}=-\delta^*(-x^*|C)$$ .

考虑包含$C$的闭的半空间：

$$C\subset\{x|\langle x,x^*\rangle\leq \beta\}$$
上式成立当且仅当：

$$\beta\geq\delta^*(x^*|C)$$
所以我们说 $C$的支撑函数$\delta^*(x^*|C)$描述了包含 $C$的半空间。

由凸集分离定理可知：

定理1.
设$C$是凸集，那么有：
（a） $x\in cl\, C\quad iff. \quad\langle x,x^*\rangle \leq \delta^*(x^*|C)$
（b） $x\in ri\, C\quad iff. \quad\langle x,x^*\rangle \leq \delta^*(x^*|C)$,
且当 $x^*$ 使得 $\delta^*(x^*|C) \neq -\delta^*(-x^*|C)$，不等号严格成立
（c） $x\in int\, C\quad iff. \quad\langle x,x^*\rangle < \delta^*(x^*|C),\forall x^*\neq 0$
（d）
$x\in aff\, C\quad iff. \quad\langle x,x^*\rangle =\delta^*(x^*|C),\forall x^* :\delta^*(x^*|C) = -\delta^*(-x^*|C)$

由上面的定理可以看出：$cl\, C_1\subset cl\, C_2$ 当且仅当 $\delta^*(x^*|C_1) \leq \delta^*(x^*|C_2)$.

我们还可以看出，设$C$是闭凸集，则$C$可以表示为：

$$C=\{x|\langle x,x^*\rangle \leq \delta^*(x^*|C),\forall x^*\}$$
这说明 $C$完全由它的支撑函数决定；这个事实很有趣,它像我们展示了一个闭凸集和$R^n$上函数的一个一一对应关系（以后我们会讲到这个对应关系的许多重要的性质）。

下面考虑另外的问题：给定一个函数，如何判断它是不是某个凸集的支撑函数？

从函数的共轭关系我们可以得到一些启发：
设$\delta(\cdot|C)$是凸集$C$ 的示性函数（indicator function），对它求共轭函数：

$$\sup _{x\in R^n} \{\langle x,x^*\rangle-\delta(x|C)\}=\sup_{x\in C}\langle x,x^*\rangle=\delta^*(x^*|C)$$
由共轭函数的性质我们还可以得到：

$$(\delta^*(\cdot|C))^*=cl\,\delta(\cdot|C)=\delta(\cdot|cl\,C)$$

定理2.
闭凸集的示性函数和支撑函数相互共轭；非空凸集的支撑函数都是闭的正常凸函数，并且是正齐次的（positively homogeneous）。
证明：
我们只需要证明后面的一个结论。
只需要证明：一个闭的，正常的凸函数如果仅仅取值与0和$+\infty$当且仅当它的共轭函数是正齐次的。
这个只需要直接计算就可以验证。

结合定理1和定理2：
设$f$是任意的正齐次的凸函数，切不恒等于$+\infty$ ， 那么，$cl\,f$是某个闭凸集$C$的支撑函数，这个集合$C$可以描述为：

$$C=\{x^*|\forall x,\langle x, x^*\rangle\leq f(x)\}$$

容易得到如果我们要求$C$是有界的凸集，那么$f$还要加上有限（finite） 的条件。

下面考虑对于一些特殊的集合，如何求出它们的支撑函数。

1.令 $B$是欧几里得单位球（unit Euclidean ball）
由Cauchy-Schwarz 不等式：

$$|\langle x,y\rangle|\leq |x|\cdot|y|$$
蕴含着：$\langle x,y\rangle\leq |x|,当|y|\leq 1$
又$\langle x,y\rangle\leq |x| ，当x=0 \,或者 \,y=|x|^{-1}x$
所以：

$$|x|=\sup\{\langle x,y\rangle||y|\leq1\}=\delta^*(x|B)$$

2.设$f$是一个正常的凸函数，那么$dom\, f$的支撑函数是$f^*$的回收函数（recession function）$f^*0^+$. 对偶地，如果$f$是闭函数，那么$dom\,f^*$的支撑函数是$f$的回收函数$f0^+$.
（这个定理在当我们熟悉了函数和集合的回收性质后，直接按定义就可以证明。回收性质我们会在后面单独学习）