First Order Methods in Optimization Ch2. Extended Real-Valued Functions

第二章: 扩充实值函数

1. 扩充实值函数和闭性

1. 扩充实值函数 (extended real-valued function) 是定义在整个$\mathbb{E}$上, 而取值在扩充实轴 R ∪ { ∞ , − ∞ } \mathbb{R}\cup\{\infty,-\infty\} R∪{∞,−∞}¹的函数. 为此, 我们先定义扩充实轴上的运算法则:$$\begin{array}{rl}a+\infty =\infty +a& =\infty ,\forall a\in \mathbb{R},\\ a-\infty =-\infty +a& =-\infty ,\forall a\in \mathbb{R},\\ a\cdot \infty =\infty \cdot a& =\infty ,\forall a\in {\mathbb{R}}_{+},\\ a\cdot (-\infty )=(-\infty )\cdot a& =-\infty ,\forall a\in {\mathbb{R}}_{+},\\ a\cdot \infty =\infty \cdot a& =-\infty ,\forall a\in {\mathbb{R}}_{-},\\ a\cdot (-\infty )=(-\infty )\cdot a& =\infty ,\forall a\in {\mathbb{R}}_{-},\\ 0\cdot \infty =\infty \cdot 0=0\cdot (-\infty )=(-\infty )\cdot 0& =0.\end{array}$$如果我们用极限来解释以上运算法则, 我们会发现其中唯一“不自然”的是最后一条. 在数学分析中, 我们称“$0\cdot \infty$”为未定式. 但在讨论扩充实值函数时, 这样的规定是“适当的 (correct) ”.
   我们也规定扩充实轴上实数和无穷大之间的序关系: ∞ > a , ∀ a ∈ R ∪ { − ∞ } , − ∞ < a , ∀ a ∈ R ∪ { ∞ } . \begin{aligned}\infty&>a,\quad\forall a\in\mathbb{R}\cup\{-\infty\},\\-\infty&<a,\quad\forall a\in\mathbb{R}\cup\{\infty\}.\end{aligned} ∞−∞​>a,∀a∈R∪{−∞},<a,∀a∈R∪{∞}.​对于一个扩充实值函数 f : E → R ∪ { ∞ } f:\mathbb{E}\to\mathbb{R}\cup\{\infty\} f:E→R∪{∞}, 我们定义其有效域 (effective domain) $\mathrm{d}\mathrm{o}\mathrm{m}(f)$为 d o m ( f ) = { x ∈ E : f ( x ) < ∞ } . \mathrm{dom}(f)=\{\mathbf{x}\in\mathbb{E}:f(\mathbf{x})<\infty\}. dom(f)={x∈E:f(x)<∞}.于此, 我们称满足 { x ∈ E : f ( x ) = − ∞ } = ∅ \{x\in\mathbb{E}:f(\mathbf{x})=-\infty\}=\emptyset {x∈E:f(x)=−∞}=∅且$\mathrm{d}\mathrm{o}\mathrm{m}(f)\ne \varnothing$的$f$是正常函数 (proper function).
   最简单的扩充实值函数是集合的指示函数 (indicator function).
   例1 (指示函数) 对$\forall C\subset \mathbb{E}$, $C$的指示函数定义为如下的扩充实值函数:$${\delta }_C(\mathbf{x})=\{\begin{array}{ll}0,& \mathbf{x}\in C,\\ \infty ,& \mathbf{x}\notin C.\end{array}$$显然有$$\mathrm{d}\mathrm{o}\mathrm{m}({\delta }_C)=C.$$
   扩充实值函数$f$的上镜图 (epigraph) $\mathrm{e}\mathrm{p}\mathrm{i}(f)$定义为 e p i ( f ) = { ( x , y ) : f ( x ) ≤ y ,   x ∈ E ,   y ∈ R } ( ⊂ E × R ) . \mathrm{epi}(f)=\{(\mathbf{x},y):f(\mathbf{x})\le y,\,\mathbf{x}\in\mathbb{E},\,y\in\mathbb{R}\}(\subset\mathbb{E}\times\mathbb{R}). epi(f)={(x,y):f(x)≤y,x∈E,y∈R}(⊂E×R).显然我们有$$P_{\mathbb{E}}(\mathrm{e}\mathrm{p}\mathrm{i}(f))=\mathrm{d}\mathrm{o}\mathrm{m}(f),$$这里$P$为投影映射.

2. 闭函数 (closed function).
   定义1 (闭函数) 我们称扩充实值函数$f$是闭函数, 若它的上镜图$\mathrm{e}\mathrm{p}\mathrm{i}(f)$是闭集.
   由定义直接可得, 集合$C$的指示函数是闭函数当且仅当$C$是闭集. 这是因为$\mathrm{e}\mathrm{p}\mathrm{i}({\delta }_C)=C\times {\mathbb{R}}_{+}$. 但这点对一般的闭函数不一定成立. 特别地, 存在闭函数, 使得其有效域不是个闭集.
   例2 考虑扩充实值函数$f$:$$f(x)=\{\begin{array}{ll}\frac{1}{x},& x>0,\\ \infty ,& 其他.\end{array}$$这样的$f$, 其有效域为开区间$(0,\infty )$, 而上镜图 e p i ( f ) = { ( x , y ) : x y ≥ 1 , x > 0 } \mathrm{epi}(f)=\{(x,y):xy\ge1,x>0\} epi(f)={(x,y):xy≥1,x>0}则是个闭集. $f$的图像如下.
   
   我们下面要介绍的下半连续性 (lower semicontinuity) 是与函数闭性等价的性质.
   定义2 (下半连续性) 我们称扩充实值函数$f$在$\mathbf{x}\in \mathbb{E}$处下半连续, 若$$f(\mathbf{x})\le \underset{n\to \infty }{\mathrm{liminf}}f({\mathbf{x}}_n)$$对 ∀ { x n } n ≥ 1 ⊂ E : x n → x \forall \{\mathbf{x}_n\}_{n\ge1}\subset\mathbb{E}:\mathbf{x}_n\to\mathbf{x} ∀{xn​}n≥1​⊂E:xn​→x都是成立; 称$f$是$\mathbb{E}$上的下半连续函数, 若它在$\mathbb{E}$上每个点处均下半连续.
   为证明下半连续性和闭性的等价性, 我们引入水平集 (level set) 的概念. 对$\forall \alpha \in \mathbb{R}$, 扩充实值函数$f$的$\alpha$-水平集定义为 L e v ( f , α ) = { x ∈ E : f ( x ) ≤ α } . \mathrm{Lev}(f,\alpha)=\{\mathbf{x}\in\mathbb{E}:f(\mathbf{x})\le\alpha\}. Lev(f,α)={x∈E:f(x)≤α}.下面的定理1表明, 闭性、下半连续性和任意水平集是闭集是等价的.
   定理1 (闭性、下半连续性和水平集是闭集的等价性) 令$f:\mathbb{E}\to [-\infty ,\infty ]$. 则下面三件事是等价的:
   (i) $f$是下半连续函数;
   (ii) $f$是闭函数;
   (iii) 对$\forall \alpha \in \mathbb{R}$, 水平集$\mathrm{L}\mathrm{e}\mathrm{v}(f,\alpha )$是闭集.
   证明: (i)$\Rightarrow$(ii) 设$f$下半连续. 我们证明$f$的上镜图$\mathrm{e}\mathrm{p}\mathrm{i}(f)$是闭集. 为此, 任取 { ( x n , y n ) } n ≥ 1 ⊂ e p i ( f ) : ( x n , y n ) → ( x ∗ , y ∗ ) \{(\mathbf{x}_n,y_n)\}_{n\ge1}\subset\mathrm{epi}(f):(\mathbf{x}_n,y_n)\to(\mathbf{x}^*,y^*) {(xn​,yn​)}n≥1​⊂epi(f):(xn​,yn​)→(x∗,y∗). 于是对$\forall n\ge 1$, $f({\mathbf{x}}_n)\le y_n$. 因此, 由$f$在${\mathbf{x}}^{\ast }$处的下半连续性, 我们有$$f({\mathbf{x}}^{\ast })\le \underset{n\to \infty }{\mathrm{liminf}}f({\mathbf{x}}_n)\le \underset{n\to \infty }{\mathrm{liminf}}{y}_n=y^{\ast }.$$这就表明$({\mathbf{x}}^{\ast },y^{\ast })\in \mathrm{e}\mathrm{p}\mathrm{i}(f)$, 因此$f$是闭函数.
   (ii)$\Rightarrow$(iii) 设$f$是闭函数. 对$\forall \alpha \in \mathbb{R}$, 我们要证$\mathrm{L}\mathrm{e}\mathrm{v}(f,\alpha )$是闭集. 若$\mathrm{L}\mathrm{e}\mathrm{v}(f,\alpha )=\varnothing$, 则得证. 不然, 取序列 { x n } n ≥ 1 ⊂ L e v ( f , α ) : x n → x ˉ \{\mathbf{x}_n\}_{n\ge1}\subset\mathrm{Lev}(f,\alpha):\mathbf{x}_n\to\bar\mathbf{x} {xn​}n≥1​⊂Lev(f,α):xn​→xˉ. 显然对$\forall n$, $({\mathbf{x}}_n,\alpha )\in \mathrm{e}\mathrm{p}\mathrm{i}(f)$且$({\mathbf{x}}_n,\alpha )\to (\bar{\mathbf{x}},\alpha )$. 由上镜图的闭性, 我们有$(\bar{\mathbf{x}},\alpha )\in \mathrm{e}\mathrm{p}\mathrm{i}(f)\Rightarrow \bar{\mathbf{x}}\in \mathrm{L}\mathrm{e}\mathrm{v}(f,\alpha )$.
   (iii)$\Rightarrow$(i) 设$f$的所有水平集是闭集. 要证$f$下半连续. 反证, 若不然, $f$不是下半连续的, 则 ∃ x ∗ ∈ E , { x n } n ≥ 1 ⊂ E : x n → x ∗ , lim inf ⁡ n → ∞ f ( x n ) < f ( x ∗ ) \exists\mathbf{x}^*\in\mathbb{E},\{\mathbf{x}_n\}_{n\ge1}\subset\mathbb{E}:\mathbf{x}_n\to\mathbf{x}^*,\liminf_{n\to\infty}f(\mathbf{x}_n)<f(\mathbf{x}^*) ∃x∗∈E,{xn​}n≥1​⊂E:xn​→x∗,n→∞liminf​f(xn​)<f(x∗). 取$\alpha :\underset{n\to \infty }{\mathrm{liminf}}f(\mathbf{x})<\alpha <f({\mathbf{x}}^{\ast })$. 则存在子列 { x n k } k ≥ 1 : f ( x n k ) ≤ α , ∀ k ≥ 1 \{\mathbf{x}_{n_k}\}_{k\ge1}:f(\mathbf{x}_{n_k})\le\alpha,\forall k\ge1 {xnk​​}k≥1​:f(xnk​​)≤α,∀k≥1. 由水平集$\mathrm{L}\mathrm{e}\mathrm{v}(f,\alpha )$的闭性以及${\mathbf{x}}_{n_k}\to {\mathbf{x}}^{\ast }$, 我们知道$f({\mathbf{x}}^{\ast })\le \alpha$. 这与$\alpha <f({\mathbf{x}}^{\ast })$矛盾! 于是$f$下半连续. 证毕.
   下面我们介绍保函数闭性的运算, 包括自变量的仿射变换、非负数乘组合以及多个函数的极大化.
   定理2 (保闭性运算)
   (i) 令$\mathcal{A}:\mathbb{E}\to \mathbb{V}$为一线性映射, $\mathbf{b}\in \mathbb{E}$, $f:\mathbb{V}\to [-\infty ,\infty ]$为扩充实值闭函数. 则函数$g$:$$g(\mathbf{x})=f(\mathcal{A}(\mathbf{x})+\mathbf{b})$$是闭函数;
   (ii) 令$f_1,f_2,\dots ,f_m:\mathbb{E}\to (-\infty ,\infty ]$为扩充实值闭函数, ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_m\in {\mathbb{R}}_{+}$. 则函数$$f=\sum _{i=1}^m{\alpha }_i{f}_i$$是闭函数;
   (iii) 令$f_i:\mathbb{E}\to (-\infty ,\infty ],i\in I$为扩充实值闭函数, $I$为给定的指标集 (可以是无限集). 则函数$$f(\mathbf{x})=\underset{i\in I}{\max }{f}_i(\mathbf{x})$$是闭函数.
   证明: (i) 为证明$g$是闭的, 取序列 { ( x n , y n ) } n ≥ 1 ⊂ e p i ( g ) : ( x n , y n ) → ( x ∗ , y ∗ ) , x ∗ ∈ E , y ∗ ∈ R \{(\mathbf{x}_n,y_n)\}_{n\ge1}\subset\mathrm{epi}(g):(\mathbf{x}_n,y_n)\to(\mathbf{x}^*,y^*),\mathbf{x}^*\in\mathbb{E},y^*\in\mathbb{R} {(xn​,yn​)}n≥1​⊂epi(g):(xn​,yn​)→(x∗,y∗),x∗∈E,y∗∈R. 而 { ( x n , y n ) } n ≥ 1 ⊂ e p i ( g ) \{(\mathbf{x}_n,y_n)\}_{n\ge1}\subset\mathrm{epi}(g) {(xn​,yn​)}n≥1​⊂epi(g)可以等价地写作$$f(\mathcal{A}({\mathbf{x}}_n)+\mathbf{b})\le y_n,\forall n\ge 1.$$因此$(\mathcal{A}({\mathbf{x}}_n)+\mathbf{b},y_n)\in \mathrm{e}\mathrm{p}\mathrm{i}(f)$. 由于$f$是闭的且$\mathcal{A}({\mathbf{x}}_n)+\mathbf{b}\to \mathcal{A}({\mathbf{x}}^{\ast })+\mathbf{b},y_n\to y^{\ast }$ (线性映射的连续性), 我们知道$$(\mathcal{A}({\mathbf{x}}^{\ast })+\mathbf{b},y^{\ast })\in \mathrm{e}\mathrm{p}\mathrm{i}(f)\Rightarrow f(\mathcal{A}({\mathbf{x}}^{\ast })+\mathbf{b})\le y^{\ast }\Rightarrow ({\mathbf{x}}^{\ast },y^{\ast })\in \mathrm{e}\mathrm{p}\mathrm{i}(g).$$这就证明$g$是闭的.
   (ii) 我们证明$f$是下半连续的, 从而由定理1可得$f$的闭性. 令 { x n } n ≥ 1 : x n → x ∗ \{\mathbf{x}_n\}_{n\ge1}:\mathbf{x}_n\to\mathbf{x^*} {xn​}n≥1​:xn​→x∗. 由$f_i$的下半连续性, $$f_i({\mathbf{x}}^{\ast })\le \underset{n\to \infty }{\mathrm{liminf}}{f}_i({\mathbf{x}}_n).$$上式左右同乘${\alpha }_i$并对下标$i$累加可得$$\left(\sum _{i=1}^m{\alpha }_i{f}_i\right)({\mathbf{x}}^{\ast })\le \sum _{i=1}^m\underset{n\to \infty }{\mathrm{liminf}}{\alpha }_i{f}_i({\mathbf{x}}_n)\le \underset{n\to \infty }{\mathrm{liminf}}\left(\sum _{i=1}^m{\alpha }_i{f}_i\right)({\mathbf{x}}_n).$$由于上式对任意收敛于${\mathbf{x}}^{\ast }$的序列都是成立的, 因此我们就证明了$f$的下半连续性.
   (iii) 由于$f_i$是闭的, 于是$\mathrm{e}\mathrm{p}\mathrm{i}(f)$是闭集. 由于任意多个闭集的交仍是闭集, 于是$\mathrm{e}\mathrm{p}\mathrm{i}(f)={\bigcap }_{i\in I}\mathrm{e}\mathrm{p}\mathrm{i}(f_i)$是闭集, 从而$f$是闭的. 证毕.

2. 闭性与连续性

本节我们将说明函数闭性与连续性之间的关系: 一个扩充实值函数若在其有效域上是连续的且这个有效域是闭的, 则这个函数是闭的; 反之, 一个扩充实值函数是闭的且其有效域是闭的, 并不能推出这个函数在其有效域上连续. 前者可见下面的定理3, 后者我们将以反例说明.

定理3 设$f:\mathbb{E}\to (-\infty ,\infty ]$在其有效域上是连续的且$\mathrm{d}\mathrm{o}\mathrm{m}(f)$是闭集. 则$f$是闭函数.
证明: 为证明$\mathrm{e}\mathrm{p}\mathrm{i}(f)$是闭集, 取序列 { ( x n , y n ) } n ≥ 1 ⊂ e p i ( f ) : ( x n , y n ) → ( x ∗ , y ∗ ) , x ∗ ∈ E , y ∗ ∈ R \{(\mathbf{x}_n,y_n)\}_{n\ge1}\subset\mathrm{epi}(f):(\mathbf{x}_n,y_n)\to(\mathbf{x}^*,y^*), \mathbf{x}^*\in\mathbb{E},y^*\in\mathbb{R} {(xn​,yn​)}n≥1​⊂epi(f):(xn​,yn​)→(x∗,y∗),x∗∈E,y∗∈R. 由于 { x n } n ≥ 1 ⊂ d o m ( f ) \{\mathbf{x}_n\}_{n\ge1}\subset\mathrm{dom}(f) {xn​}n≥1​⊂dom(f), ${\mathbf{x}}_n\to {\mathbf{x}}^{\ast }$且$\mathrm{d}\mathrm{o}\mathrm{m}(f)$是闭集, 因此${\mathbf{x}}^{\ast }\in \mathrm{d}\mathrm{o}\mathrm{m}(f)$. 由上镜图的定义, 我们有对$\forall n\ge 1$,$$f({\mathbf{x}}_n)\le y_n.$$由$f$在$\mathrm{d}\mathrm{o}\mathrm{m}(f)$上的连续性, 特别地, 在${\mathbf{x}}^{\ast }$处的连续性, 在上式两边对$n$取极限后我们得到$$f({\mathbf{x}}^{\ast })\le y^{\ast }\Rightarrow ({\mathbf{x}}^{\ast },y^{\ast })\in \mathrm{e}\mathrm{p}\mathrm{i}(f).$$这就证明了上镜图的闭性.

上面定理3的一个特殊情形就是$\mathrm{d}\mathrm{o}\mathrm{m}(f)=\mathbb{E}$, 即$f$是实值函数. 则$f$在$\mathbb{E}$上连续即可推出$f$是闭函数. 换句话说, { f : d o m ( f ) = E , f ∈ C ( E ) } ⊂ { f : d o m ( f ) = E , f 在 E 上 是 闭 函 数 } . \{f:\mathrm{dom}(f)=\mathbb{E},f\in C(\mathbb{E})\}\subset\{f:\mathrm{dom}(f)=\mathbb{E},f在\mathbb{E}上是闭函数\}. {f:dom(f)=E,f∈C(E)}⊂{f:dom(f)=E,f在E上是闭函数}.下面我们将说明这个包含是“真”的.

例3 (${\ell }_0$-范数²) 考虑${\ell }_0$-范数函数$f:{\mathbb{R}}^n\to \mathbb{R}$, 定义为 f ( x ) = ∥ x ∥ 0 = # { i : x i ≠ 0 } . f(\mathbf{x})=\Vert\mathbf{x}\Vert_0=\#\{i:x_i\not=0\}. f(x)=∥x∥0​=#{i:xi​​=0}.即$\Vert \mathbf{x}{\Vert }_0$给出的是$\mathbf{x}$中非零元素的数目. 这时$f$的有效域是整个实空间${\mathbb{R}}^n$. 而且$f$还是闭函数. 事实上, 注意到$$f(\mathbf{x})=\sum _{i=1}^{n}I(x_i),$$其中 I : R → { 0 , 1 } I:\mathbb{R}\to\{0,1\} I:R→{0,1}定义为$$I(y)=\{\begin{array}{ll}0,& y=0,\\ 1,& y\ne 0.\end{array}$$考察$I$的水平集 L e v ( I , α ) = { ∅ , α < 0 , { 0 } , α ∈ [ 0 , 1 ) , R , α ≥ 1. \mathrm{Lev}(I,\alpha)=\left\{\begin{array}{ll}\emptyset, & \alpha<0,\\\{0\}, & \alpha\in[0,1),\\\mathbb{R}, & \alpha\ge1.\end{array}\right. Lev(I,α)=⎩⎨⎧​∅,{0},R,​α<0,α∈[0,1),α≥1.​显然对$\forall \alpha \in \mathbb{R}$, 它都是闭集. 因此$I$是闭函数, 而从定理2的(ii)我们知道, 闭函数的正组合仍然是闭函数. 因此$f$就是闭的. 但$f$显然不是连续函数.

下面我们再举一个有效域非整个$\mathbb{E}$的例子.

例4 考虑如下定义的函数$f_{\alpha }:\mathbb{R}\to (-\infty ,\infty ]$,$$f_{\alpha }(x)=\{\begin{array}{ll}\alpha ,& x=0,\\ x,& 0<x\le 1,\\ \infty ,& 其它.\end{array}$$此函数是闭函数当且仅当$\alpha \le 0$, 而它连续当且仅当$\alpha =0$. 因此, 函数$f_{-0.1}$ (图示见下图) 就是闭但不连续的.

一些连续函数的性质是可以扩展³到闭函数的. 著名的Weierstrass定理是讲, 连续函数在非空紧集⁴上必取到最小值. 我们现在证明这个结论对闭函数也对.

定理4 (闭函数的Weierstrass定理) 设$f:\mathbb{E}\to (-\infty ,\infty ]$是正常闭函数, $C$为满足$C\cap \mathrm{d}\mathrm{o}\mathrm{m}(f)\ne \varnothing$的紧集. 于是
(i) $f$在$C$上下有界;
(ii) $f$在$C$上取到最小值.

证明: (i) 反证, 设$f$在$C$上下无界. 则存在序列 { x n } n ≥ 1 ⊂ C \{\mathbf{x}_n\}_{n\ge1}\subset C {xn​}n≥1​⊂C使得$$\underset{n\to \infty }{\lim }f({\mathbf{x}}_n)=-\infty .$$由Bolzano-Weierstrass定理, 从$C$是紧集可推出存在子列 { x n k } k ≥ 1 \{\mathbf{x}_{n_k}\}_{k\ge1} {xnk​​}k≥1​收敛到$\bar{\mathbf{x}}\in C$. 由定理1我们知道, $f$下半连续, 因此$$f(\bar{\mathbf{x}})\le \underset{k\to \infty }{\mathrm{liminf}}f({\mathbf{x}}_{n_k}),$$这与前面的极限式矛盾.
(ii) 记$f$在$C$上的下确界⁵为$f_{\mathrm{o}\mathrm{p}\mathrm{t}}$. 于是存在序列 { x n } n ≥ 1 : f ( x n ) → f o p t \{\mathbf{x}_n\}_{n\ge1}:f(\mathbf{x}_n)\to f_{\mathrm{opt}} {xn​}n≥1​:f(xn​)→fopt​. 如同(i), 存在子列 { x n k } k ≥ 1 : x n k → x ˉ ∈ C \{\mathbf{x}_{n_k}\}_{k\ge1}:\mathbf{x}_{n_k}\to\bar\mathbf{x}\in C {xnk​​}k≥1​:xnk​​→xˉ∈C. 同样由$f$的下半连续性, 我们得到$$f(\bar{\mathbf{x}})\le \underset{k\to \infty }{\lim }f({\mathbf{x}}_{n_k})=f_{\mathrm{o}\mathrm{p}\mathrm{t}}\Rightarrow f(\bar{\mathbf{x}})=f_{\mathrm{o}\mathrm{p}\mathrm{t}}.$$这说明$f$在$\bar{\mathbf{x}}$处取到在$C$上的最小值.

上述定理4在$C$非紧时是不一定成立的. 但如果$f$具有强制性 (coerciveness), 则$C$只需是闭集即可得到相同的结论. 为此, 我们先给出强制性的定义.

定义3 (强制性) 我们称正常函数$f:\mathbb{E}\to (-\infty ,\infty ]$是强制的, 若$$\underset{\Vert \mathbf{x}\Vert \to \infty }{\lim }f(\mathbf{x})=\infty .$$

下面我们证明: 强制的闭函数在任何与有效域有非空交的闭集上均能取到最小值.

定理5 (强制性下的最值定理⁶) 设$f:\mathbb{E}\to (-\infty ,\infty ]$是正常强制闭函数, $S\subset \mathbb{E}$为满足$S\cup \mathrm{d}\mathrm{o}\mathrm{m}(f)\ne \varnothing$的非空闭集. 于是$f$在$S$上必能取到最小值.

证明: 任取${\mathbf{x}}_0\in S\cap \mathrm{d}\mathrm{o}\mathrm{m}(f)$. 由$f$的强制性, 存在$M>0$使得$$f(\mathbf{x})>f({\mathbf{x}}_0),\forall \mathbf{x}:\Vert \mathbf{x}\Vert >M.$$因为$f_{\mathrm{o}\mathrm{p}\mathrm{t}}\le f({\mathbf{x}}_0)$, 而$S\cap B_{\Vert \cdot \Vert }[0,M]$紧且非空 (至少有${\mathbf{x}}_0$), 于是由定理4我们知道$f$在$S\cap B_{\Vert \cdot \Vert }[0,M]$上必取到最小值, 从而在$S$上必取到最小值. 证毕.

3. 凸函数

3.1 定义与基本性质

类似于闭性, 扩充实值函数的凸性 (convexity) 也是用上镜图定义的.

定义4 (凸函数 (convex functions)) 我们称扩充实值函数$f:\mathbb{E}\to [-\infty ,\infty ]$是凸函数, 若$\mathrm{e}\mathrm{p}\mathrm{i}(f)$是凸集.

下面我们给出正常扩充实值函数是凸函数的几种等价说法.

命题1 设$f:\mathbb{E}\to (-\infty ,\infty ]$是正常扩充实值函数, 则以下三件事是等价的⁷:
(i) $f$是凸函数;
(ii) $\mathrm{d}\mathrm{o}\mathrm{m}(f)$是凸集, 且${f|}_{\mathrm{d}\mathrm{o}\mathrm{m}(f)}$在$\mathrm{d}\mathrm{o}\mathrm{m}(f)$上是凸函数⁸;
(iii) $f(\lambda \mathbf{x}+(1-\lambda )\mathbf{y})\le \lambda f(\mathbf{x})+(1-\lambda )f(\mathbf{y}),\forall \mathbf{x},\mathbf{y}\in \mathbb{E},\lambda \in [0,1]$⁹;
(iv) $\mathrm{d}\mathrm{o}\mathrm{m}(f)$是凸集, 且(iii)对$\forall \mathbf{x},\mathbf{y}\in \mathrm{d}\mathrm{o}\mathrm{m}(f),\lambda \in [0,1]$成立.

证明: (i)$\Rightarrow$(ii) 为证$\mathrm{d}\mathrm{o}\mathrm{m}(f)$是凸集, 任取$\mathbf{x},\mathbf{y}\in \mathrm{d}\mathrm{o}\mathrm{m}(f)$, 则$(\mathbf{x},f(\mathbf{x})),(\mathbf{y},f(\mathbf{y}))\in \mathrm{e}\mathrm{p}\mathrm{i}(f)$. 由$\mathrm{e}\mathrm{p}\mathrm{i}(f)$的凸性, 我们知道$$(\lambda \mathbf{x}+(1-\lambda )\mathbf{y},\lambda f(\mathbf{x})+(1-\lambda )f(\mathbf{y}))\in \mathrm{e}\mathrm{p}\mathrm{i}(f),\forall \lambda \in [0,1].$$ 从而$\lambda \mathbf{x}+(1-\lambda )\mathbf{y}\in \mathrm{d}\mathrm{o}\mathrm{m}(f),\forall \lambda \in [0,1]$. 这就证明了$\mathrm{d}\mathrm{o}\mathrm{m}(f)$是凸集. 由上式我们还可以推出$$f(\lambda \mathbf{x}+(1-\lambda )\mathbf{y})\le \lambda f(\mathbf{x})+(1-\lambda )f(\mathbf{y}),\forall \mathbf{x},\mathbf{y}\in \mathrm{d}\mathrm{o}\mathrm{m}(f),\lambda \in [0,1].$$这就证明了${f|}_{\mathrm{d}\mathrm{o}\mathrm{m}(f)}$是凸函数.
(ii)$\Rightarrow$(iii) 由于${f|}_{\mathrm{d}\mathrm{o}\mathrm{m}(f)}$是凸函数是凸函数, 因此(iii)对$\forall \mathbf{x},\mathbf{y}\in \mathrm{d}\mathrm{o}\mathrm{m}(f),\lambda \in [0,1]$是成立的. 若$\mathbf{x},\mathbf{y}$至少有一个在$\mathbb{E}\setminus \mathrm{d}\mathrm{o}\mathrm{m}(f)$中, 则(iii)显然成立.
(iii)$\Rightarrow$(iv) 取$\mathbf{x},\mathbf{y}\in \mathrm{d}\mathrm{o}\mathrm{f}(f)$即可证明$\mathrm{d}\mathrm{o}\mathrm{m}(f)$是凸集. 而第二句话则显然成立.
(iv)$\Rightarrow$(i) 为证$f$是凸函数, 任取$(\mathbf{x},\alpha ),(\mathbf{y},\beta )\in \mathrm{e}\mathrm{p}\mathrm{i}(f)$. 于是$$f(\lambda \mathbf{x}+(1-\lambda )\mathbf{y})\le \lambda f(\mathbf{x})+(1-\lambda )f(\mathbf{y})\le \lambda \alpha +(1-\lambda )\beta ,\forall \lambda \in [0,1],$$其中第一个不等式由$\mathrm{d}\mathrm{o}\mathrm{m}(f)$是凸集以及满足不等式得出, 第二个不等式则由上镜图的定义得出. 因此$(\lambda \mathbf{x}+(1-\lambda )\mathbf{y},\lambda \alpha +(1-\lambda )\beta )\in \mathrm{e}\mathrm{p}\mathrm{i}(f),\forall \lambda \in [0,1]$. 这就证明了$\mathrm{e}\mathrm{p}\mathrm{i}(f)$是凸集.

定理6 (保凸性运算)¹⁰
(i) 设$\mathcal{A}:\mathbb{E}\to \mathbb{V}$为线性映射, $\mathbf{b}\in \mathbb{V}$, $f:v\to (-\infty ,\infty ]$为扩充实值凸函数. 则如下定义的扩充实值函数$g:\mathbb{E}\to (-\infty ,\infty ]$$$g(\mathbf{x})=f(\mathcal{A}(\mathbf{x})+\mathbf{b})$$是凸函数;
(ii) 设$f_1,f_2,\dots ,f_m:\mathbb{E}\to (-\infty ,\infty ]$为扩充实值凸函数, ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_m\in {\mathbb{R}}_{+}$. 则函数$$\sum _{i=1}^m{\alpha }_i{f}_i$$是凸函数;
(iii) 设$f_i:\mathbb{E}\to (-\infty ,\infty ],i\in I$为扩充实值凸函数, 其中$I$为给定指标集. 则函数$$f(\mathbf{x})=\underset{i\in I}{\max }{f}_i(\mathbf{x})$$是凸函数.

证明以上三条时只需注意两点:

1. 以上三条对于定义在凸集上的实值凸函数是显然的;
2. 命题1的(ii).

详细证明略去.

例5 设$\mathbb{E}$为欧式空间, $C\subset \mathbb{E}$为非空集合. 考虑函数$${\phi }_C(\mathbf{x})=\frac{1}{2}\left(\Vert \mathbf{x}{\Vert }^2-d_C^2(\mathbf{x})\right),$$其中$d_C(\mathbf{x})$为如下定义的$\mathbf{x}$到$C$的距离函数 (distance function)¹¹:$$d_C(\mathbf{x})=\underset{\mathbf{y}\in C}{\min }\Vert \mathbf{x}-\mathbf{y}\Vert .$$我们将说明不论$C$是凸集与否, ${\phi }_C(\mathbf{x})$必定是凸函数. 注意到$$d_C^2(\mathbf{x})=\underset{\mathbf{y}\in C}{\min }\Vert \mathbf{x}-\mathbf{y}{\Vert }^2=\Vert \mathbf{x}{\Vert }^2-\underset{\mathbf{y}\in C}{\max }\left[2⟨\mathbf{y},\mathbf{x}⟩-\Vert \mathbf{y}{\Vert }^2\right].$$因此$${\phi }_C(\mathbf{x})=\underset{\mathbf{y}\in C}{\max }\left[⟨\mathbf{y},\mathbf{x}⟩-\frac{1}{2}\Vert \mathbf{y}{\Vert }^2\right].$$固定$\mathbf{y}$, 内部的$⟨\mathbf{y},\mathbf{x}⟩-\frac{1}{2}\Vert \mathbf{y}{\Vert }^2$是$\mathbf{x}$的仿射函数 (从而使凸函数), 因此由定理6的(iii), 我们推出${\phi }_C(\mathbf{x})$是凸函数.

下面我们再介绍一个保凸性的运算: 联合凸函数的部分极小化 (partial minimization of jointly convex functions).

定理7 (部分极小化下的凸性) 设$f:\mathbb{E}\times \mathbb{V}\to (-\infty ,\infty ]$为满足如下性质的凸函数:$$\forall \mathbf{x}\in \mathbb{E},\exists \mathbf{y}\in \mathbb{V},\mathrm{s}.\mathrm{t}.f(\mathbf{x},\mathbf{y})<\infty .$$令$g:\mathbb{E}\to [-\infty ,\infty )$¹²定义为$$g(\mathbf{x})\equiv \underset{\mathbf{y}\in \mathbb{E}}{\min }f(\mathbf{x},\mathbf{y}).$$于是$g$是凸函数.

证明: 取${\mathbf{x}}_1,{\mathbf{x}}_2\in \mathbb{E},\lambda \in [0,1]$. 为证明$g$是凸函数, 由命题1的(iii), 我们等价地证明$$g(\lambda {\mathbf{x}}_1+(1-\lambda ){\mathbf{x}}_2)\le \lambda g({\mathbf{x}}_1)+(1-\lambda )g({\mathbf{x}}_2).$$这在 λ ∈ { 0 , 1 } \lambda\in\{0,1\} λ∈{0,1}是显然的. 因此我们设$\lambda \in (0,1)$. 我们分两种情形讨论.
情形1: 设$g({\mathbf{x}}_1),g({\mathbf{x}}_2)>-\infty$. 任取$ϵ>0$, 于是存在${\mathbf{y}}_1,{\mathbf{y}}_2\in \mathbb{V}$使得$$\begin{array}{rl}f({\mathbf{x}}_1,{\mathbf{y}}_1)& \le g({\mathbf{x}}_1)+ϵ,\\ f({\mathbf{x}}_2,{\mathbf{y}}_2)& \le g({\mathbf{x}}_2)+ϵ.\end{array}$$由$f$的凸性, 我们有$$\begin{array}{rl}f(\lambda {\mathbf{x}}_1+(1-\lambda ){\mathbf{x}}_2,\lambda {\mathbf{y}}_1+(1-\lambda ){\mathbf{y}}_2)& \le \lambda f({\mathbf{x}}_1,{\mathbf{y}}_1)+(1-\lambda )f({\mathbf{x}}_2,{\mathbf{y}}_2)\\ & \le \lambda (g({\mathbf{x}}_1)+ϵ)+(1-\lambda )(g({\mathbf{x}}_2)+ϵ)\\ & =\lambda g({\mathbf{x}}_1)+(1-\lambda )g({\mathbf{x}}_2)+ϵ.\end{array}$$而由$g$的定义, 我们有$$g(\lambda {\mathbf{x}}_1+(1-\lambda ){\mathbf{x}}_2)\le \lambda g({\mathbf{x}}_1)+(1-\lambda )g({\mathbf{x}}_2)+ϵ.$$由于上式对$\forall ϵ>0$均成立, 于是我们得证.
情形2: 设$g({\mathbf{x}}_1),g({\mathbf{x}}_2)$二者至少有一个取到$-\infty$. 不失一般性, 设$g({\mathbf{x}}_1)=-\infty$. 于是我们只需证明$g(\lambda {\mathbf{x}}_1+(1-\lambda )\mathbf{y})=-\infty$. 对$\forall M<0$, 由于$g({\mathbf{x}}_1)=-\infty$, 因此存在${\mathbf{y}}_1\in \mathbb{V}$使得$$f({\mathbf{x}}_1,{\mathbf{y}}_1)\le M.$$由条件可知, 存在${\mathbf{y}}_2\in \mathbb{V}$使得$f({\mathbf{x}}_2,{\mathbf{y}}_2)<\infty$.利用$f$的凸性, 我们得到$$\begin{array}{rl}f(\lambda {\mathbf{x}}_1+(1-\lambda ){\mathbf{x}}_2,\lambda {\mathbf{y}}_1+(1-\lambda ){\mathbf{y}}_2)& \le \lambda f({\mathbf{x}}_1,{\mathbf{y}}_1)+(1-\lambda )f({\mathbf{x}}_2,{\mathbf{y}}_2)\\ & \le \lambda M+(1-\lambda )f({\mathbf{x}}_2,{\mathbf{y}}_2).\end{array}$$于是再次由$g$的定义, $$g(\lambda {\mathbf{x}}_1+(1-\lambda ){\mathbf{x}}_2)\le \lambda M+(1-\lambda )f({\mathbf{x}}_2,{\mathbf{y}}_2).$$对上式取$\lambda =1$并令$M\to -\infty$, 即可得证.

3.2 极小卷积

设$h_1,h_2:\mathbb{E}\to (-\infty ,\infty ]$为两个正常函数. 则$h_1,h_2$的极小卷积 (infimal convolution) $h_1\square h_2$定义为 ( h 1 □ h 2 ) ( x ) ≡ min ⁡ u ∈ E { h 1 ( u ) + h 2 ( x − u ) } . (h_1\square h_2)(\mathbf{x})\equiv\min_{\mathbf{u}\in\mathbb{E}}\{h_1(\mathbf{u})+h_2(\mathbf{x}-\mathbf{u})\}. (h1​□h2​)(x)≡u∈Emin​{h1​(u)+h2​(x−u)}.将定理7直接应用到这里, 我们可得一个正常凸函数和一个实值凸函数的极小卷积总是凸函数.

定理8 (极小卷积的凸性) 设$h_1:\mathbb{E}\to (-\infty ,\infty ]$为一正常凸函数, $h_2:\mathbb{E}\to \mathbb{R}$为一实值凸函数. 则$h_1\square h_2$是凸函数.

证明: 定义$f(\mathbf{x},\mathbf{y})\equiv h_1(\mathbf{y})+h_2(\mathbf{x}-\mathbf{y})$. $h_1,h_2$的凸性可推出$f$的凸性. 另外, 显然任取$\mathbf{x}\in \mathbb{E}$, 总存在$\mathbf{y}\in \mathrm{d}\mathrm{o}\mathrm{m}(h_1)$, 使得$f(\mathbf{x},\mathbf{y})<\infty$. 因此由定理7, 极小卷积$h_1\square h_2$作为$f(\cdot ,\cdot )$的对第二自变量的部分极小化, 是一个凸函数.

例6 (距离函数的凸性) 设$C\subset \mathbb{E}$为一非空凸集. 于是距离函数可以表示成如下的极小卷积: d C ( x ) = min ⁡ y { ∥ x − y ∥ : y ∈ C } = min ⁡ y ∈ E { δ C ( y ) + ∥ x − y ∥ } = ( δ C □ h 1 ) ( x ) , d_C(\mathbf{x})=\min_{\mathbf{y}}\{\Vert\mathbf{x}-\mathbf{y}\Vert:\mathbf{y}\in C\}=\min_{\mathbf{y}\in\mathbb{E}}\{\delta_{C}(\mathbf{y})+\Vert\mathbf{x}-\mathbf{y}\Vert\}=(\delta_C\square h_1)(\mathbf{x}), dC​(x)=ymin​{∥x−y∥:y∈C}=y∈Emin​{δC​(y)+∥x−y∥}=(δC​□h1​)(x),其中$h_1(\cdot )=\Vert \cdot \Vert$. 由于${\delta }_C$为正常凸函数, $h_1$为实值凸函数 (范数的三角不等式性和正齐次性), 因此定理8告诉我们$d_C$是凸函数.

3.3 凸函数的连续性

众所周知, 凸函数在其定义域的内点处是连续的. 下面我们给出一个更强的结论: 凸函数的局部Lipschitz连续性.

定理9 (凸函数的局部Lipschitz连续性) 设$f:\mathbb{E}\to (-\infty ,\infty ]$是凸函数, ${\mathbf{x}}_0\in \mathrm{i}\mathrm{n}\mathrm{t}(\mathrm{d}\mathrm{o}\mathrm{m}(f))$. 于是存在$ϵ>0,L>0$使得$B[{\mathbf{x}}_0,ϵ]\subset \mathrm{d}\mathrm{o}\mathrm{m}(f)$且$$|f(\mathbf{x})-f({\mathbf{x}}_0)|\le L\Vert \mathbf{x}-{\mathbf{x}}_0\Vert ,\forall \mathbf{x}\in B[{\mathbf{x}}_0,ϵ].$$

证明: 由于${\mathbf{x}}_0\in \mathrm{i}\mathrm{n}\mathrm{t}(\mathrm{d}\mathrm{o}\mathrm{m}(f))$, 于是存在$ϵ>0$, 使得$B_{\Vert \cdot {\Vert }_{\infty }}[{\mathbf{x}}_0,ϵ]\subset \mathrm{d}\mathrm{o}\mathrm{m}(f)$. 而对$\forall \mathbf{x}\in \mathbb{E}$, $\Vert \mathbf{x}{\Vert }_{\infty }\le \Vert \mathbf{x}{\Vert }_2=\Vert \mathbf{x}\Vert$. 于是$$B[{\mathbf{x}}_0,ϵ]=B_{\Vert \cdot {\Vert }_2}[{\mathbf{x}}_0,ϵ]\subset B_{\Vert \cdot {\Vert }_{\infty }}[{\mathbf{x}}_0,ϵ]\subset \mathrm{d}\mathrm{o}\mathrm{m}(f).$$下面我们先证明在$B[{\mathbf{x}}_0,ϵ]$中, $f$是有界的. 任取$\forall \mathbf{x}\in B[{\mathbf{x}}_0,ϵ]\subset B_{\Vert \cdot {\Vert }_{\infty }}[{\mathbf{x}}_0,ϵ]$. 由于$B_{\Vert \cdot {\Vert }_{\infty }}[{\mathbf{x}}_0,ϵ]$有$2^n$个极点 { v i } i = 1 2 n = { x 0 + ϵ w i } i = 1 2 n \{\mathbf{v}_i\}_{i=1}^{2^n}=\{\mathbf{x}_0+\epsilon\mathbf{w}_i\}_{i=1}^{2^n} {vi​}i=12n​={x0​+ϵwi​}i=12n​, 其中 w i ∈ { − 1 , 1 } n \mathbf{w}_i\in\{-1,1\}^n wi​∈{−1,1}n, 于是利用Krein-Milman定理, 我们推出存在$\lambda \in {\Delta }_{2^n}$, 使得$\mathbf{x}={\sum }_{i=1}^{2^n}{\lambda }_i{\mathbf{v}}_i$. 再用Jensen不等式, 我们有$$f(\mathbf{x})\le \sum _{i=1}^{2^n}{\lambda }_{i}f({\mathbf{v}}_i)\le \sum _{i=1}^{2^n}|f({\mathbf{v}}_i)|\triangleq M.$$下面我们证明定理的结论: 任取$\mathbf{x}\in B[{\mathbf{x}}_0,ϵ]$, 记$$\mathbf{z}={\mathbf{x}}_0+\frac{1}{\alpha }(\mathbf{x}-{\mathbf{x}}_0),$$其中$\alpha =\frac{\Vert \mathbf{x}-{\mathbf{x}}_0\Vert }{ϵ}$. 于是易知$\alpha \in [0,1]$且$\mathbf{z}\in B[{\mathbf{x}}_0,ϵ]$. 因此我们有$$\begin{array}{rl}\alpha M\ge \alpha f(\mathbf{z})& \ge f(\mathbf{x})-(1-\alpha )f({\mathbf{x}}_0)\\ & =f(\mathbf{x})-f({\mathbf{x}}_0)+\alpha f({\mathbf{x}}_0).\end{array}$$其中第二个不等号来自Jensen不等式. 于是我们就得到$$f(\mathbf{x})-f({\mathbf{x}}_0)\le \alpha (M-f({\mathbf{x}}_0))=\frac{M-f({\mathbf{x}}_0)}{ϵ}\Vert \mathbf{x}-{\mathbf{x}}_0\Vert .$$下面我们证明另一边. 记$$\mathbf{u}={\mathbf{x}}_0+\frac{1}{\alpha }({\mathbf{x}}_0-\mathbf{x}).$$类似地, $\mathbf{u}\in B[{\mathbf{x}}_0,ϵ]$. 因此$$\begin{array}{rl}M\ge f(\mathbf{u})& \ge \frac{\alpha +1}{\alpha }\left(f({\mathbf{x}}_0)-\frac{1}{\alpha +1}f(\mathbf{x})\right)\\ & =f({\mathbf{x}}_0)+\frac{1}{\alpha }\left(f({\mathbf{x}}_0)-f(\mathbf{x})\right).\end{array}$$从而有$$f({\mathbf{x}}_0)-f(\mathbf{x})\le \alpha (M-f({\mathbf{x}}_0))=\frac{M-f({\mathbf{x}}_0)}{ϵ}\Vert \mathbf{x}-{\mathbf{x}}_0\Vert .$$结合上面的讨论, 我们就得到$$|f({\mathbf{x}}_0)-f(\mathbf{x})|\le \frac{M-f({\mathbf{x}}_0)}{ϵ}\Vert \mathbf{x}-{\mathbf{x}}_0\Vert \triangleq L\Vert \mathbf{x}-{\mathbf{x}}_0\Vert .$$
证毕.

凸函数在边界点是不必连续的. 甚至在函数是闭凸的时, 这一点依然得不到保障 (见后文的例13). 但下面我们将说明单变量的闭凸函数在其有效域上一定是连续函数.

定理10 (单变量闭凸函数的连续性) 设$f:\mathbb{R}\to (-\infty ,\infty ]$为正常的闭凸函数. 则$f$在$\mathrm{d}\mathrm{o}\mathrm{m}(f)$上是连续的.

证明: 由于$f$是凸函数, 因此其有效域为某个区间$I=\mathrm{d}\mathrm{o}\mathrm{m}(f)$. 若$\mathrm{i}\mathrm{n}\mathrm{t}(I)=\varnothing$, 则$I$为单点集, $f$在其上的连续性是显然的. 于是设$\mathrm{i}\mathrm{n}\mathrm{t}(I)\ne \varnothing$. 定理9告诉我们, $f$在$\mathrm{i}\mathrm{n}\mathrm{t}(I)$上连续. 因此我们只需证明$f$在$I$的边界点 (如果存在的话) 上连续. 为此, 不失一般性, 我们假设$I$有左端点$a$. 下面证明$f$在$a$处的右连续性. 首先证明${\lim }_{t\to a^{+}}f(t)$存在. 任取$c\in I:c>a$, 定义函数$$g(t)=\frac{f(c-t)-f(c)}{t}.$$显然$g$是定义在$(0,c-a]$上的. 我们将证明$g$在$(0,c-a]$上非减且上有界. 为此, 任取$0<t\le s\le c-a$. 于是$$c-t=\left(1-\frac{t}{s}\right)c+\frac{t}{s}(c-s),$$因此由$f$的凸性可得$$f(c-t)\le \left(1-\frac{t}{s}\right)f(c)+\frac{t}{s}f(c-s),$$稍作整理后, 可得$$\frac{f(c-t)-f(c)}{t}\le \frac{f(c-s)-f(c)}{s}.$$因此$$g(t)\le g(s),\forall 0<t\le s\le c-a.$$ 即$g$在$(0,c-a]$上非减. 进一步地, $$g(t)\le g(c-a),\forall t\in (0,c-a].$$这就证明了$g$在$(0,c-a]$上有界. 由数学分析我们可推出${\lim }_{t\to (c-a{)}^{-}}g(t)$存在, 记为$\ell$. 因此$$f(c-t)=f(c)+tg(t)\to f(c)+(c-a)\ell ,$$${\lim }_{t\to a^{+}}f(t)$也存在且等于$f(c)+(c-a)\ell$. 由$g$的上有界, 我们可得$$f(c-t)=f(c)+tg(t)\le f(c)+(c-a)g(c-a)=f(a)\Rightarrow \underset{t\to a^{+}}{\lim }f(t)\le f(a).$$另一方面, 因$f$是凸函数等价于$f$下半连续, 所以又有$f(a)\le {\lim }_{t\to a^{+}}f(t)$. 所以就有$f(a)={\lim }_{t\to a^{-}}f(t)$, 证明了$f$在$a$处的右连续性. 证毕.

4. 支撑函数

设$C\subset \mathbb{E}$为非空集合. 则$C$的支撑函数 (support function) 为如下定义的${\sigma }_C:{\mathbb{E}}^{\ast }\to (-\infty ,\infty ]$,$${\sigma }_C(\mathbf{y})=\underset{\mathbf{x}\in C}{\max }⟨\mathbf{y},\mathbf{x}⟩.$$固定$x$, 则线性函数$\mathbf{y}\mapsto ⟨\mathbf{y},\mathbf{x}⟩$显然是闭凸函数. 因此我们由定理2的(iii)和定理6的(iii)可知, 支撑函数也是闭凸函数. 而这与$C$是闭或是凸集与否无关.

引理1 (支撑函数的闭凸性) 设$C\subset \mathbb{E}$为一非空集合. 则${\sigma }_C$为闭凸函数.

这里注意到, ${\sigma }_C$是定义在${\mathbb{E}}^{\ast }$上的函数. 而之前我们说过$\mathbb{E}$和${\mathbb{E}}^{\ast }$在元素上可以视作相同. 因此, ${\sigma }_C$定义在$\mathbb{E}$还是${\mathbb{E}}^{\ast }$上从元素的对应角度上没有差别. 但如果涉及到了范数, 我们就必须使用对偶范数 (参见例12).
下面我们简单列举支撑函数的一些性质. 在这之前我们给出两个集合运算律: 给定属于同一空间的两集合$A,B$
(i) Minkowski和: A + B = { a + b : a ∈ A , b ∈ B } . A+B=\{\mathbf{a}+\mathbf{b}:\mathbf{a}\in A,\mathbf{b}\in B\}. A+B={a+b:a∈A,b∈B}.
(ii) 数乘: $\forall \alpha \in \mathbb{R}$, α A = { α a : a ∈ A } . \alpha A=\{\alpha\mathbf{a}:\mathbf{a}\in A\}. αA={αa:a∈A}.

引理2 (支撑函数的性质) 对任意非空集合$C\subset \mathbb{E}$,
(i) (正齐次性) 对$\forall \mathbf{y}\in {\mathbb{E}}^{\ast }$, $\alpha \ge 0$, $${\sigma }_C(\alpha \mathbf{y})=\alpha {\sigma }_C(\mathbf{y}).$$
(ii) (次可加性 (subadditivity)) 对$\forall {\mathbf{y}}_1,{\mathbf{y}}_2\in {\mathbb{E}}^{\ast }$,$${\sigma }_C({\mathbf{y}}_1+{\mathbf{y}}_2)\le {\sigma }_C({\mathbf{y}}_1)+{\sigma }_C({\mathbf{y}}_2).$$
(iii) 对$\forall \mathbf{y}\in {\mathbb{E}}^{\ast }$, $\alpha \ge 0$, $${\sigma }_{\alpha C}(\mathbf{y})=\alpha {\sigma }_C(\mathbf{y}).$$
(iv) 对任意非空集合$A,B\in \mathbb{E},\mathbf{y}\in {\mathbb{E}}^{\ast }$,$${\sigma }_{A+B}(\mathbf{y})={\sigma }_A(\mathbf{y})+{\sigma }_B(\mathbf{y}).$$

证明: 我们仅证明(iv). $$\begin{array}{rl}{\sigma }_{A+B}(\mathbf{y})& =\underset{\mathbf{x}\in A+B}{\max }⟨\mathbf{y},\mathbf{x}⟩=\underset{{\mathbf{x}}_1\in A,{\mathbf{x}}_2\in B}{\max }⟨\mathbf{y},{\mathbf{x}}_1+{\mathbf{x}}_2⟩\\ & =\underset{{\mathbf{x}}_1\in A,{\mathbf{x}}_2\in B}{\max }[⟨\mathbf{y},{\mathbf{x}}_1⟩+⟨\mathbf{y},{\mathbf{x}}_2⟩]=\underset{{\mathbf{x}}_1\in A}{\max }⟨\mathbf{y},{\mathbf{x}}_1⟩+\underset{{\mathbf{x}}_2\in B}{\max }⟨\mathbf{y},{\mathbf{x}}_2⟩\\ & ={\sigma }_A(\mathbf{y})+{\sigma }_B(\mathbf{y}).\end{array}$$

下面我们通过举例向读者展示一些具体的支撑函数.

4.1 有限集的支撑函数

例7 (有限集的支撑函数) 设 C = { b 1 , b 2 , … , b m } , C=\{\mathbf{b}_1,\mathbf{b}_2,\ldots,\mathbf{b}_m\}, C={b1​,b2​,…,bm​},其中${\mathbf{b}}_1,{\mathbf{b}}_2,\dots ,{\mathbf{b}}_m\in \mathbb{E}$. 于是 σ C ( y ) = max ⁡ { ⟨ b 1 , y ⟩ , ⟨ b 2 , y ⟩ , … , ⟨ b m , y ⟩ } . \boxed{\sigma_C(\mathbf{y})=\max\{\langle\mathbf{b}_1,\mathbf{y}\rangle,\langle\mathbf{b}_2,\mathbf{y}\rangle,\ldots,\langle\mathbf{b}_m,\mathbf{y}\rangle\}.} σC​(y)=max{⟨b1​,y⟩,⟨b2​,y⟩,…,⟨bm​,y⟩}.​

4.2 锥的支撑函数

例8 (锥的支撑函数) 设$K\subset \mathbb{E}$为锥. 定义$K$的极锥 (polar cone) 为 K ∘ = { y ∈ E ∗ : ⟨ y , x ⟩ ≤ 0 , ∀ x ∈ K } . K^{\circ}=\{\mathbf{y}\in\mathbb{E}^*:\langle\mathbf{y},\mathbf{x}\rangle\le0,\forall\mathbf{x}\in K\}. K∘={y∈E∗:⟨y,x⟩≤0,∀x∈K}.即(从$\mathbb{E}={\mathbb{E}}^{\ast }$的观点看)极锥$K^{\circ }$包含了那些与$K$中任意向量成钝角的那些向量. 我们下面证明$$\boxed{{\sigma }_K(\mathbf{y})={\delta }_{K^{\circ }}(\mathbf{y}).}$$事实上, 若$\mathbf{y}\in K^{\circ }$, 则$⟨\mathbf{y},\mathbf{x}⟩\le 0,\forall \mathbf{x}\in K$; 特别地, 当$\mathbf{x}=0$时, $⟨\mathbf{y},\mathbf{x}⟩=0$. 因此$${\sigma }_K(\mathbf{y})=\underset{\mathbf{x}\in K}{\max }⟨\mathbf{y},\mathbf{x}⟩=0.$$而若$\mathbf{y}\notin K^{\circ }$, 则存在$\tilde{\mathbf{x}}\in K$使得$⟨\mathbf{y},\tilde{\mathbf{x}}⟩>0$. 由于$\lambda \tilde{\mathbf{x}}\in K,\forall \lambda \ge 0$, 因此我们有$${\sigma }_K(\mathbf{y})\ge ⟨\mathbf{y},\lambda \tilde{\mathbf{x}}⟩=\lambda ⟨\mathbf{y},\tilde{\mathbf{x}}⟩,\forall \lambda \ge 0.$$令$\lambda \to \infty$, 我们就推出${\sigma }_K(\mathbf{y})=\infty ,\forall \mathbf{y}\notin K^{\circ }$. 得证.

例9 (非负象限的支撑函数) 考虑实空间$\mathbb{E}={\mathbb{R}}^n$. 作为例8的特殊情形, 由于${\left({\mathbb{R}}_{+}^n\right)}^{\circ }={\mathbb{R}}_{-}^n$, 因此例8的结论变成$$\boxed{{\sigma }_{{\mathbb{R}}_{+}^n}(\mathbf{y})={\delta }_{{\mathbb{R}}_{-}^n}(\mathbf{y}).}$$

下面我们讨论凸多面体锥 (convex polyhedral cone) 的支撑函数. 为此, 我们先证明一个择一性定理——Farkas引理 (Farkas’s lemma).

引理3 (Farkas引理——第二形式) 设$\mathbf{c}\in {\mathbb{R}}^n,\mathbf{A}\in {\mathbb{R}}^{m\times n}$. 于是下面两件事是等价的:
(i) 从$\mathbf{A}\mathbf{x}\le 0$可推出${\mathbf{c}}^T\mathbf{x}\le 0$;
(ii) 存在$\mathbf{y}\in {\mathbb{R}}_{+}^m$, 使得${\mathbf{A}}^T\mathbf{y}=\mathbf{c}$.

证明: 从(ii)证(i)是显然的. 下面我们用反证法证明反方向. 若不然, 由原始形式的Farkas引理可知, 存在$\mathbf{d}\in {\mathbb{R}}^n$, 使得$\mathbf{A}\mathbf{d}\ge 0,{\mathbf{c}}^T\mathbf{d}<0$. 于是$\mathbf{A}(-\mathbf{d})\le 0\Rightarrow -{\mathbf{c}}^T\mathbf{d}\le 0\Rightarrow {\mathbf{c}}^T\mathbf{d}\ge 0$. 矛盾! 因此得证.

例10 (凸多面体锥的支撑函数) 考虑实空间$\mathbb{E}={\mathbb{R}}^n$. 设$\mathbf{A}\in {\mathbb{R}}^{m\times n}$. 定义集合 S = { x ∈ R n : A x ≤ 0 } . S=\{\mathbf{x}\in\mathbb{R}^n:\mathbf{Ax\le0}\}. S={x∈Rn:Ax≤0}.因为$S$是锥, 因此直接使用例8的结论我们可得$${\sigma }_S(\mathbf{y})={\delta }_{S^{\circ }}(\mathbf{y}).$$下面我们来刻画$S^{\circ }$. 注意到$\mathbf{y}\in S^{\circ }$当且仅当$$⟨\mathbf{y},\mathbf{x}⟩\le 0,\forall \mathbf{x}:\mathbf{A}\mathbf{x}\le 0.$$由Farkas引理, 上式等价于$$\exists \lambda \in {\mathbb{R}}_{+}^m:{\mathbf{A}}^T\lambda =\mathbf{y}.$$因此, S ∘ = { A T λ : λ ∈ R + m } , S^{\circ}=\{\mathbf{A}^T\lambda:\lambda\in\mathbb{R}_+^m\}, S∘={ATλ:λ∈R+m​}, σ S ( y ) = δ { A T λ : λ ∈ R + m } ( y ) . \boxed{\sigma_S(\mathbf{y})=\delta_{\left\{\mathbf{A}^T\lambda:\lambda\in\mathbb{R}^m_+\right\}}(\mathbf{y}).} σS​(y)=δ{ATλ:λ∈R+m​}​(y).​

例11 (仿射集的支撑函数) 考虑实空间$\mathbb{E}={\mathbb{R}}^n$. 设$\mathbf{B}\in {\mathbb{R}}^{m\times n}$, $\mathbf{b}\in {\mathbb{R}}^m$. 定义仿射集 C = { x ∈ R n : B x = b } . C=\{\mathbf{x}\in\mathbb{R}^n:\mathbf{Bx=b}\}. C={x∈Rn:Bx=b}.我们假设$C$是非空的, 即$\exists {\mathbf{x}}_0\in {\mathbb{R}}^n:{\mathbf{B}\mathbf{x}}_0=\mathbf{b}$. 按定义, $C$的支撑函数为 σ C ( y ) = max ⁡ x { ⟨ y , x ⟩ : B x = b } . \sigma_C(\mathbf{y})=\max_{\mathbf{x}}\{\langle\mathbf{y},\mathbf{x}\rangle:\mathbf{Bx=b}\}. σC​(y)=xmax​{⟨y,x⟩:Bx=b}.作平移$\mathbf{x}={\mathbf{z}+\mathbf{x}}_0$. 于是上式可重新写作 σ C ( y ) = max ⁡ z { ⟨ y , z ⟩ + ⟨ y , x 0 ⟩ : B z = 0 } = ⟨ y , x 0 ⟩ + max ⁡ z { ⟨ y , z ⟩ : B z = 0 } = ⟨ y , x 0 ⟩ + σ C ~ ( y ) , \begin{aligned}\sigma_C(\mathbf{y})&=\max_{\mathbf{z}}\{\langle\mathbf{y},\mathbf{z}\rangle+\langle\mathbf{y},\mathbf{x}_0\rangle:\mathbf{Bz=0}\}\\&=\langle\mathbf{y},\mathbf{x}_0\rangle+\max_{\mathbf{z}}\{\langle\mathbf{y},\mathbf{z}\rangle:\mathbf{Bz=0}\}\\&=\langle\mathbf{y},\mathbf{x}_0\rangle+\sigma_{\tilde C}(\mathbf{y}),\end{aligned} σC​(y)​=zmax​{⟨y,z⟩+⟨y,x0​⟩:Bz=0}=⟨y,x0​⟩+zmax​{⟨y,z⟩:Bz=0}=⟨y,x0​⟩+σC~​(y),​其中 C ~ = { x ∈ R n : B x = 0 } \tilde C=\{\mathbf{x}\in\mathbb{R}^n:\mathbf{Bx=0}\} C~={x∈Rn:Bx=0}. 而集合$\tilde{C}$可以写作凸多面体锥的形式: C ~ = { x ∈ R n : A x ≤ 0 } , \tilde C=\{\mathbf{x}\in\mathbb{R}^n:\mathbf{Ax\le0}\}, C~={x∈Rn:Ax≤0},这里$\mathbf{A}=\left(\begin{array}{c}\mathbf{B}\\ -\mathbf{B}\end{array}\right)$. 由例10我们知道, $${\sigma }_{\tilde{C}}={\delta }_{{\tilde{C}}^{\circ }},$$这里${\tilde{C}}^{\circ }$是$\tilde{C}$的极锥, C ~ ∘ = { B T λ 1 − B T λ 2 : λ 1 , λ 2 ∈ R + m } = R a n g e ( B T ) . \tilde C^{\circ}=\{\mathbf{B}^T\lambda_1-\mathbf{B}^T\lambda_2:\lambda_1,\lambda_2\in\mathbb{R}^m_+\}=\mathrm{Range}(\mathbf{B}^T). C~∘={BTλ1​−BTλ2​:λ1​,λ2​∈R+m​}=Range(BT).最终, 我们得到$$\boxed{{\sigma }_C(\mathbf{y})=⟨\mathbf{y},{\mathbf{x}}_0⟩+{\delta }_{\mathrm{R}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}({\mathbf{B}}^T)}(\mathbf{y}).}$$

4.3 单位球的支撑函数

例12 (单位球的支撑函数) 考虑单位球 B ∥ ⋅ ∥ [ 0 , 1 ] = { x ∈ E : ∥ x ∥ ≤ 1 } . B_{\Vert\cdot\Vert}[\mathbf{0},1]=\{\mathbf{x}\in\mathbb{E}:\Vert\mathbf{x}\Vert\le1\}. B∥⋅∥​[0,1]={x∈E:∥x∥≤1}.由对偶范数的定义, 我们有对$\forall \mathbf{y}\in {\mathbb{E}}^{\ast }$,$$\boxed{{\sigma }_{B_{\Vert \cdot \Vert }[0,1]}(\mathbf{y})=\underset{\Vert \mathbf{x}\Vert \le 1}{\max }⟨\mathbf{y},\mathbf{x}⟩=\Vert \mathbf{y}{\Vert }_{\ast }.}$$对于$\mathbb{E}={\mathbb{R}}^n$的特殊情形, 我们有$$\begin{gathered} \boxed{{\sigma }_{B_{\Vert \cdot {\Vert }_p}[0,1]}(\mathbf{y})=\Vert \mathbf{y}{\Vert }_q,\left(1\le p\le \infty ,\frac{1}{p}+\frac{1}{q}=1\right);} \\ \boxed{{\sigma }_{B_{\Vert \cdot {\Vert }_{\mathbf{Q}}}[0,1]}=\Vert \mathbf{y}{\Vert }_{{\mathbf{Q}}^{-1}},\left(\mathbf{Q}\in {\mathbb{S}}_{++}^n\right).} \end{gathered}$$

4.4 闭凸函数不连续的例子

下一个例子也说明了闭凸函数不必连续.

例13 考虑${\mathbb{R}}^2$中的集合$$C=\left\{(x_1,x_2{)}^T:x_1+\frac{x_2^2}{2}\le 0\right\}.$$于是$C$的支撑函数为$${\sigma }_C(\mathbf{y})=\underset{x_1,x_2}{\max }\left\{y_1{x}_1+y_2{x}_2:x_1+\frac{x_2^2}{2}\le 0\right\}.$$显然${\sigma }_C(0)=0$. 因此令$\mathbf{y}\ne 0$. 此时, 已知上述极大化问题的最优点必定取在$C$的边界点. 事实上若取在了$C$的内部, 则目标函数的梯度$\mathbf{y}$必定是$0$. 这与前提相悖. 因此$${\sigma }_C(\mathbf{y})=\underset{x_1,x_2}{\max }\left\{y_1{x}_1+y_2{x}_2:x_1+\frac{x_2^2}{2}=0\right\}=\underset{x_2}{\max }\left\{-\frac{y_1}{2}{x}_2^2+y_2{x}_2\right\}.$$当$y_1<0$或$y_1=0,y_2\ne 0$, 最大值都是$\infty$; 当$y_1>0$, 则最大值在$x_2=\frac{y_2}{y_1}$取到, 对应的最大值为$\frac{y_2^2}{2y_1}$. 因此此支撑函数为$$\boxed{{\sigma }_C(\mathbf{y})=\{\begin{array}{ll}\frac{y_1^2}{2y_1},& y_1>0,\\ 0,& y_1=y_2=0,\\ \infty ,& 其它.\end{array}}$$

由引理1, ${\sigma }_C$必定是闭凸函数. 但它在$(y_1,y_2)=(0,0)$点处不连续. 事实上, 任取$\alpha >0$, 取路径$y_1(t)=\frac{t^2}{2\alpha },y_2(t)=t(t>0)$, 我们就有$${\sigma }_C(y_1(t),y_2(t))=\alpha ,$$因此${\sigma }_C(y_1(t),y_2(t))\to \alpha ,t\to 0^{+}$. 这与${\sigma }_C(0,0)=0$矛盾. 下图展示了${\sigma }_C$的图像. 其中的曲线表示的是函数的等高线.

4.5 单位单纯形的支撑函数

下面我们导出单位单纯形的支撑函数. 为此我们先做一些铺垫. 集合的支撑函数的一个重要性质是, 只要这些集合是闭凸的, 则它们的支撑函数是唯一确定的. 证明这个结论需要用到如下的严格分离定理 (strict separation theorem).

定理11 (严格分离定理) 设$C\subset \mathbb{E}$为非空闭凸集, $\mathbf{y}\notin C$. 则存在 p ∈ E ∗ ∖ { 0 } \mathbf{p}\in\mathbb{E}^*\setminus\{\mathbf{0}\} p∈E∗∖{0}, $\alpha \in \mathbb{R}$使得$$⟨\mathbf{p},\mathbf{y}⟩>\alpha$$以及$$⟨\mathbf{p},\mathbf{x}⟩\le \alpha ,\forall \mathbf{x}\in C.$$

此定理的证明可以参看泛函分析中更加一般的凸集分离定理的证明. 在此省略.

引理4 设$A,B\subset \mathbb{E}$为非空闭凸集. 则$A=B$当且仅当${\sigma }_A={\sigma }_B$.

证明: 必要性是显然的. 下面证充分性. 设${\sigma }_A={\sigma }_B$. 若$A\ne B$, 则不失一般性, 我们假设$\exists \mathbf{y}\in A:\mathbf{y}\notin B$. 由于$\mathbf{y}\notin B$且$B$为非空闭凸集, 我们由严格分离定理就推出存在分离$\mathbf{y}$和$B$的超平面, 即 ∃ p ∈ E ∗ ∖ { 0 } , α > 0 \exists\mathbf{p}\in\mathbb{E}^*\setminus\{0\},\alpha>0 ∃p∈E∗∖{0},α>0, 使得$$⟨\mathbf{p},\mathbf{x}⟩\le \alpha <⟨\mathbf{p},\mathbf{y}⟩,\forall \mathbf{x}\in B.$$左端对$\mathbf{x}\in B$取上确界, 我们推出$${\sigma }_B(\mathbf{p})\le \alpha <⟨\mathbf{p},\mathbf{y}⟩\le {\sigma }_A(\mathbf{p}).$$这与${\sigma }_A={\sigma }_B$是矛盾的. 得证.

在集合未必闭凸时, 我们有支撑函数在闭包 (closure) 和凸包下的不变性.

引理5 设$A\subset \mathbb{E}$非空. 则
(i) ${\sigma }_A={\sigma }_{\mathrm{c}\mathrm{l}(A)}$;
(ii) ${\sigma }_A={\sigma }_{\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{v}(A)}$.

证明: (i) 由于$A\subset \mathrm{c}\mathrm{l}(A)$, 因此显然有$${\sigma }_A(\mathbf{y})\le {\sigma }_{\mathrm{c}\mathrm{l}(A)}(\mathbf{y}),\forall \mathbf{y}\in {\mathbb{E}}^{\ast }.$$下面我们证明反向的情形. 令$\mathbf{y}\in {\mathbb{E}}^{\ast }$. 由支撑函数的定义, 存在序列 { x k } k ≥ 1 ⊂ c l ( A ) \{\mathbf{x}^k\}_{k\ge1}\subset\mathrm{cl}(A) {xk}k≥1​⊂cl(A)使得$$⟨\mathbf{y},{\mathbf{x}}^k⟩\to {\sigma }_{\mathrm{c}\mathrm{l}(A)}(\mathbf{y}).$$由集合闭包的定义, 于是我们有序列 { z k } k ≥ 1 ⊂ A : ∥ z k − x k ∥ ≤ 1 k , ∀ k \{\mathbf{z}^k\}_{k\ge1}\subset A:\Vert\mathbf{z}^k-\mathbf{x}^k\Vert\le\frac{1}{k},\forall k {zk}k≥1​⊂A:∥zk−xk∥≤k1​,∀k, 因此$${\mathbf{z}}^k-{\mathbf{x}}^k\to 0.$$由于${\mathbf{z}}^k\in A$, 于是就有$${\sigma }_A(\mathbf{y})\ge ⟨{\mathbf{y},\mathbf{z}}^k⟩=⟨{\mathbf{y},\mathbf{x}}^k⟩+⟨{\mathbf{y},\mathbf{z}}^k-{\mathbf{x}}^k⟩.$$对$k$取极限, 于是我们就有反向的不等式$${\sigma }_A(\mathbf{y})\ge {\sigma }_{\mathrm{c}\mathrm{l}(A)}(\mathbf{y})+0={\sigma }_{\mathrm{c}\mathrm{l}(A)}(\mathbf{y}).$$
(ii) 因为$A\subset \mathrm{c}\mathrm{o}\mathrm{n}\mathrm{v}(A)$, 因此显然有$${\sigma }_A(\mathbf{y})\le {\sigma }_{\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{v}(A)}(\mathbf{y}),\forall \mathbf{y}\in {\mathbb{E}}^{\ast }.$$下面我们证明反向不等式. 令$\mathbf{y}\in {\mathbb{E}}^{\ast }$. 于是由支撑函数的定义, 存在序列 { x k } k ≥ 1 ⊂ c o n v ( A ) \{\mathbf{x}^k\}_{k\ge1}\subset\mathrm{conv}(A) {xk}k≥1​⊂conv(A)使得$$⟨\mathbf{y},{\mathbf{x}}^k⟩\to {\sigma }_{\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{v}(A)}(\mathbf{y}).$$再由集合凸包的定义, 于是对$\forall k$, $\exists {\mathbf{z}}_1^k,{\mathbf{z}}_2^k,\dots ,{\mathbf{z}}_{n_k}^k\in A,{\lambda }^k\in {\Delta }_{n_k}$使得$${\mathbf{x}}^k=\sum _{i=1}^{n_k}{\lambda }_1^k{\mathbf{z}}_i^k.$$于是$$⟨{\mathbf{y},\mathbf{x}}^k⟩=⟨\mathbf{y},\sum _{i=1}^{n_k}{\lambda }_i^k{\mathbf{z}}_i^k⟩=\sum _{i=1}^{n_k}{\lambda }_i^k⟨{\mathbf{y},\mathbf{z}}_i^k⟩\le \sum _{i=1}^{n_k}{\lambda }_i^k{\sigma }_A(\mathbf{y})={\sigma }_A(\mathbf{y}),$$再对$k$取极限, 就得到反向不等式. 证毕.

例14 (单位单纯形的支撑函数) 考虑实空间${\mathbb{E}}^n$和其中的单位单纯形 Δ n = { x ∈ R n : e T x = 1 , x ≥ 0 } . \Delta_n=\{\mathbf{x}\in\mathbb{R}^n:\mathbf{e}^T\mathbf{x}=1,\mathbf{x}\ge\mathbf{0}\}. Δn​={x∈Rn:eTx=1,x≥0}.注意到单位单纯形可以写作${\mathbb{R}}^n$中标准基的凸包, 即 Δ n = c o n v { e 1 , e 2 , … , e n } , \Delta_n=\mathrm{conv}\{\mathbf{e}_1,\mathbf{e}_2,\ldots,\mathbf{e}_n\}, Δn​=conv{e1​,e2​,…,en​},于是由引理5的(ii)即得 σ Δ n ( y ) = σ { e 1 , … , e m } ( y ) = max ⁡ { ⟨ e 1 , y ⟩ , ⟨ e 2 , y ⟩ , … , ⟨ e n , y ⟩ } . \sigma_{\Delta_n}(\mathbf{y})=\sigma_{\{\mathbf{e}_1,\ldots,\mathbf{e}_m\}}(\mathbf{y})=\max\{\langle\mathbf{e}_1,\mathbf{y}\rangle,\langle\mathbf{e}_2,\mathbf{y}\rangle,\ldots,\langle\mathbf{e}_n,\mathbf{y}\rangle\}. σΔn​​(y)=σ{e1​,…,em​}​(y)=max{⟨e1​,y⟩,⟨e2​,y⟩,…,⟨en​,y⟩}.若默认${\mathbb{R}}^n$中内积为点积, 则 σ Δ n ( y ) = max ⁡ { y 1 , y 2 , … , y n } . \boxed{\sigma_{\Delta_n}(\mathbf{y})=\max\{y_1,y_2,\ldots,y_n\}.} σΔn​​(y)=max{y1​,y2​,…,yn​}.​

4.6 支撑函数的总结

$C$	${\sigma }_C(\mathbf{y})$	假设条件
{ b 1 , … , b n } \{\mathbf{b}_1,\ldots,\mathbf{b}_n\} {b1​,…,bn​}	${\max }_{i=1,\dots ,n}⟨{\mathbf{b}}_i,\mathbf{y}⟩$	${\mathbf{b}}_i\in \mathbb{E}$
$K$	${\delta }_{K^{\circ }}(\mathbf{y})$	$K$为锥
${\mathbb{R}}_{+}^n$	${\delta }_{{\mathbb{R}}_{-}^n}(\mathbf{y})$	$\mathbb{E}={\mathbb{R}}^n$
${\Delta }_n$	max ⁡ { y 1 , y 2 , … , y n } \max\{y_1,y_2,\ldots,y_n\} max{y1​,y2​,…,yn​}	$\mathbb{E}={\mathbb{R}}^n$
{ x ∈ R n : A x ≤ 0 } \{\mathbf{x}\in\mathbb{R}^n:\mathbf{Ax\le0}\} {x∈Rn:Ax≤0}	δ { A T λ : λ ∈ R + m } ( y ) \delta_{\{\mathbf{A}^T\lambda:\lambda\in\mathbb{R}^m_+\}}(\mathbf{y}) δ{ATλ:λ∈R+m​}​(y)	$\mathbb{E}={\mathbb{R}}^n,\mathbf{A}\in {\mathbb{R}}^{m\times n}$
{ x ∈ R n : B x = b } \{\mathbf{x}\in\mathbb{R}^n:\mathbf{Bx=b}\} {x∈Rn:Bx=b}	$⟨{\mathbf{y},\mathbf{x}}_0⟩+{\delta }_{\mathrm{R}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}({\mathbf{B}}^T)}(\mathbf{y})$	$\mathbb{E}={\mathbb{R}}^n,\mathbf{B}\in {\mathbb{R}}^{m\times n},\mathbf{b}\in {\mathbb{R}}^m,{\mathbf{B}\mathbf{x}}_0=\mathbf{b}$
$B_{\Vert \cdot \Vert }[0,1]$	$\Vert \mathbf{y}{\Vert }_{\ast }$	-

---

1. 有时简记为 R ∪ { ∞ } \mathbb{R}\cup\{\infty\} R∪{∞}或$[-\infty ,\infty ]$. ↩︎

2. 注意从所谓${\ell }_0$-范数的定义我们知道, ${\ell }_0$-范数实际上不满足范数的定义: 它并不满足正齐次性的要求. 但由于这个术语被学术文献广泛使用, 因此我们也采用这种叫法. ↩︎

3. 注意, 使用“扩展”这个词是基于上文提到的集合包含关系. ↩︎

4. 在有限维空间情形等价于有界闭集. ↩︎

5. 由(i)下有界, 所以必有下确界. ↩︎

6. 此定理在数学分析中, 我们对连续函数的情形讨论过. 而上文提到, 全空间连续函数真包含于全空间闭函数, 因此此定理是数学分析中结论的推广. ↩︎

7. 从命题1的(ii)我们知道, 凸的正常扩充实值函数是凸的实值函数的推广. ↩︎

8. 这里按实值函数在凸集上凸性的定义理解. ↩︎

9. 此不等式为以下Jensen不等式的特例:$$f\left(\sum _{i=1}^k{\lambda }_i{\mathbf{x}}_i\right)\le \sum _{i=1}^k{\lambda }_{i}f({\mathbf{x}}_i).$$ ↩︎

10. 可对比之前的保闭性运算. 本定理只列举部分满足要求的运算. ↩︎

11. 在$C$是闭集时, 对$\forall \mathbf{x}\notin C$, 必有$d_C(\mathbf{x})>0$. ↩︎

12. $g$不取$\infty$是显然的. ↩︎