凸优化中的数学（二）范数，距离，单位球

#凸优化中的数学（二）之
##——范数，距离、单位球
我们首先给出范数的定义：
满足一下条件的函数$f:R^n\to R,domf=R^n称为范数$

$\bullet f是非负的：对所有的x\in R^n,domf=R^n成立f(x)\ge 0$
$\bullet f是正定的：仅对x=0成立f(x)=0$
$\bullet f是其次的：对所有的x\in R^n和t\in R成立f(tx)=|t|f(x)$
$\bullet f满足三角不等式：对所有的x,y\in R^n成立f(x+y)\le f(x)+f(y)$
$我们采用符号f(x)=\Vert x\Vert ,改符号意味着范数是R上绝对值的推广。我们用\Vert x{\Vert }_{symb}表示具体的范数，下表是区分范数的助记符号。$
$范数是对向量x的长度的度量；我们可以用两个向量x和y的差异的长度度量他们之间的距离，即$ $$dist(x,y)=\Vert x-y\Vert$$ $我们用dist(x,y)表示x和y之间用范数\Vert \cdot \Vert 表示距离。最常见的就是n维欧式空间下的距离$ $$dist(x,y)=[(x_1-y_1{)}^2+\dots \dots +(x_n-y_n{)}^2{]}^{1/2}$$
其范数小于或等于1的所有向量的集合 B = { x ∈ R n ∣ ∥ x ∥ ≤ 1 } \mathcal B=\{ x\in R^n | \|x\| \le 1 \} B={x∈Rn∣∥x∥≤1}
$称为范数\Vert \cdot \Vert 的$单位球。$单位球具有以下性质：$
$\bullet \mathcal{B}关于原点对称，当且仅当-x\in \mathcal{B}时成立x\in \mathcal{B}$
$\bullet \mathcal{B}是凸集，$
$\bullet \mathcal{B}是有界闭集，内部非空。$
$反之，如果C\subset R^n是满足这三个条件的任何集合，它就是一种范数的单位$
####下面给出一些例子
$最简单的范数例子是R上的绝对值$ $$\Vert x{\Vert }_1=|x_1|+|x_2|+\dots \dots +|x_n|$$
$称之为$绝对值之和$或$${\ell }_1范数$。无穷范数定义为 ∥ x ∥ ∞ = m a x { ∣ x 1 ∣ , … … ， ∣ x n ∣ } \|x\|_\infty=max\{|x_1|,……，|x_n|\} ∥x∥∞​=max{∣x1​∣,……，∣xn​∣}
$又叫Chebyshev或{\ell }_{\infty }范数$，$更一般的有{\ell }_p$范数,$p\ge 1$ $$\Vert x{\Vert }_p=(|x_1{|}^p+\dots \dots +|x_n{|}^n{)}^{1/p}$$,$可以看到p=1为{\ell }_1范数，p=2为Euclid范数，p\to \infty 为{\ell }_{\infty }范数$
$还有一类范数是二次范数。对P\in S_{++}^n,我们定义P-二次范数如下$ $$\Vert x{\Vert }_P=(x^{T}Px{)}^{1/2}=\Vert P^{1/2}x{\Vert }_2$$ $二次范数的单位求是椭圆,当P=E（单位矩阵），就等同于前面的球$
对于矩阵$R^{m\times n}上的范数由有Frobenius范数$（见范数第一篇）‘绝对值之和范数 $$\Vert x{\Vert }_F=\sqrt{\sum _{i=1}^m\sum _{j=1}^n|x_{ij}{|}^2}$$
以及最大绝对值范数： ∥ x ∥ m a v = m a x { ∣ X i j ∣ i = 1 , … m ; j = 1 , … , n } \|x\|_{mav}=max\{|X_{ij}|i=1,…m;j=1,…,n\} ∥x∥mav​=max{∣Xij​∣i=1,…m;j=1,…,n}
这些概念挺重要的，以后会经常用到，希望大家理解。