范数的概念

范数的概念

范数是一个函数，用于测量向量或矩阵的大小或长度。不同的范数在向量或矩阵上提供不同的度量方式。以下是一些常用范数的定义：

1. ${\ell }_1$范数（Manhattan范数）：
   对于向量 $\mathbf{x}=[x_1,x_2,\dots ,x_n]$，${\ell }_1$范数定义为所有元素绝对值的和：$\Vert \mathbf{x}{\Vert }_1={\sum }_{i=1}^n|x_i|$对于矩阵 $S$，${\ell }_1$范数是所有元素绝对值的和：$\Vert S{\Vert }_1={\sum }_{i,j}|S_{i,j}|$
2. ${\ell }_2$范数（Euclidean范数）：
   对于向量 $\mathbf{x}=[x_1,x_2,\dots ,x_n]$，${\ell }_2$范数定义为所有元素平方和的平方根：$\Vert \mathbf{x}{\Vert }_2=\sqrt{{\sum }_{i=1}^n{x}_i^2}$对于矩阵 $S$，${\ell }_2$范数（通常称为Frobenius范数）定义为所有元素平方和的平方根：$\Vert S{\Vert }_F=\sqrt{{\sum }_{i,j}{S}_{i,j}^2}$
3. 核范数（Nuclear norm）：
   核范数用于测量矩阵的秩，对矩阵 $L$ 定义为其奇异值的和：$\Vert L{\Vert }_{\ast }={\sum }_i{\sigma }_i$其中 ${\sigma }_i$ 是矩阵 $L$ 的奇异值。

向量的 ${\ell }_p$ 范数

对于一个向量 $\mathbf{x}=[x_1,x_2,\dots ,x_n]$，其 ${\ell }_p$ 范数定义为：
$\Vert \mathbf{x}{\Vert }_p={\left({\sum }_{i=1}^n|x_i{|}^p\right)}^{1/p}$
其中 $p$ 是一个正数，可以取任何值。常用的范数包括：

• ${\ell }_1$ 范数：$p=1$$\Vert \mathbf{x}{\Vert }_1={\sum }_{i=1}^n|x_i|$
• ${\ell }_2$ 范数（欧几里得范数）：$p=2$$\Vert \mathbf{x}{\Vert }_2={\left({\sum }_{i=1}^n{x}_i^2\right)}^{1/2}$
• ${\ell }_{\infty }$ 范数（最大值范数）：$p\to \infty$$\Vert \mathbf{x}{\Vert }_{\infty }={\max }_i|x_i|$

矩阵的 ${\ell }_p$ 范数

对于一个矩阵 $A$，我们可以定义其元素的 ${\ell }_p$ 范数，类似于向量的定义：
$\Vert A{\Vert }_p={\left({\sum }_{i,j}|A_{i,j}{|}^p\right)}^{1/p}$
常用的矩阵范数包括：

• 矩阵的 ${\ell }_1$ 范数：$\Vert A{\Vert }_1={\sum }_{i,j}|A_{i,j}|$
• 矩阵的 ${\ell }_2$ 范数（Frobenius 范数）：$\Vert A{\Vert }_F={\left({\sum }_{i,j}{A}_{i,j}^2\right)}^{1/2}$
• 矩阵的 ${\ell }_{\infty }$ 范数：$\Vert A{\Vert }_{\infty }={\max }_{i,j}|A_{i,j}|$

${\ell }_1$范数的计算

如上所述，矩阵 $S$ 的 ${\ell }_1$范数是矩阵中所有元素绝对值的和。计算方法如下：

例子

假设我们有一个矩阵 $S$：
$S=\left[\begin{array}{ccc}1& -2& 3\\ -4& 5& -6\\ 7& -8& 9\end{array}\right]$
我们计算它的 ${\ell }_1$范数：
$\Vert S{\Vert }_1={\sum }_{i,j}|S_{i,j}|=|1|+|-2|+|3|+|-4|+|5|+|-6|+|7|+|-8|+|9|$
具体计算步骤为：
$\Vert S{\Vert }_1=1+2+3+4+5+6+7+8+9=45$
因此，矩阵 $S$ 的 ${\ell }_1$范数为45。

总结

• 向量的 ${\ell }_p$ 范数 通用公式为 $\Vert \mathbf{x}{\Vert }_p={\left({\sum }_{i=1}^n|x_i{|}^p\right)}^{1/p}$。
• 矩阵的 ${\ell }_p$ 范数 通用公式为 $\Vert A{\Vert }_p={\left({\sum }_{i,j}|A_{i,j}{|}^p\right)}^{1/p}$。
• 特定范数（如 ${\ell }_1$ 范数、${\ell }_2$ 范数、${\ell }_{\infty }$ 范数等）是这些通用公式的特殊情况。