矩阵范数与向量范数的公式及其理解

矩阵是什么？

我们都知道映射指的是一个空间 ${\mathbb{R}}^m$到另一个空间 ${\mathbb{R}}^n$的变换关系，狭义的函数其实是映射的一种特例，特指实数集间 ${\mathbb{R}}^1$的映射关系。

在所有映射中，我们最常见的是线性映射，对这种线性映射关系，我们是用矩阵来刻画，比如我们要将一个向量$x\in {\mathbb{R}}^m$映射到另外一个空间${\mathbb{R}}^n$中，那么我们就对其左乘一个矩阵$A$，于是 $y_{n\times 1}=A_{n\times m}{x}_{m\times 1}$，这里矩阵的角色就好比函数中的函数体$f(x)$

研究矩阵的性质有助于我们理解这个矩阵是如何作用于输入的，从而揭露了从输入到输出之间的规律。比如：

矩阵的秩反映了映射目标向量空间的维数，比如对于变换 $y=Ax$，如果$A$的秩分别1，2，3，那么表示新的向量$y$的维数分别是1,2，3，所以秩其实就是描述了这个变换矩阵会不会将输入的向量空间降维，如果$y$没有降维（与$x$维数一样），则$A$为满秩。

可逆矩阵反映了线性映射的可逆性，假如$A$是可逆的，那么对于变换$y=Ax$，就有$x=A^{-1}y$

矩阵范数则反映了线性映射把一个向量映射为另一个向量，向量的“长度”缩放的比例，或者可以理解为矩阵的范数就是一种用来刻画变换强度大小的度量。另外，各种范数之间是等价的，这些主要介绍他们的数学定义。

矩阵范数

常用的矩阵范数：

F-范数：Frobenius范数，即矩阵元素绝对值的平方和再开方，对应向量的2范数，$\Vert A{\Vert }_F={\left({\sum }_{i=1}^m{\sum }_{j=1}^n{\left|a_{ij}\right|}^2\right)}^{\frac{1}{2}}$
F范数经常用来衡量两个矩阵是否相似，比如要使矩阵$B$ 与矩阵$A$相似，那么就可以优化它们的误差矩阵$B-A$ 的F范式。

1-范数：列和范数，即矩阵每列向量元素绝对值之和中取最大值，$\Vert A{\Vert }_1={\max }_j{\sum }_{i=1}^m\left|a_{i,j}\right|$

2-范数：谱范数，即$A^{T}A$矩阵的最大特征值的开平方，$\Vert A{\Vert }_2=\sqrt{{\lambda }_1},{\lambda }_1$ 为$A^{T}A$的最大特征值

$\infty$-范数：行和范数，即矩阵每行向量元素绝对值之和中取最大值，$\Vert A{\Vert }_{\infty }={\max }_i{\sum }_{j=1}^n\left|a_{i,j}\right|$

向量范数

常用的向量范数：

2-范数：Euclid范数（欧几里得范数），也就是向量长度，向量元素绝对值的平方和再开方，$\Vert x{\Vert }_2={\left({\sum }_{i=1}^N{\left|x_i\right|}^2\right)}^{\frac{1}{2}}$

1-范数：即向量元素绝对值之和，$\Vert x{\Vert }_1={\sum }_{i=1}^N\left|x_i\right|$

$\infty$-范数：即所有向量元素绝对值中的最大值，$\Vert x{\Vert }_{\infty }=\max \left|x_i\right|$

$-\infty$范数：即所有向量元素绝对值中的最小值，$\Vert x{\Vert }_{-\infty }={\min }_i\left|x_i\right|$

p-范数：即向量元素绝对值的p次方和的1/p次幂，2范数就是p范数的特例，$\Vert x{\Vert }_p={\left({\sum }_{i=1}^N{\left|x_i\right|}^p\right)}^{\frac{1}{p}}$

0-范数，向量中非零元素的个数。

如果对你有帮助，请点个赞:-D