范数

目录

一，范数

1，广义范数

2，狭义范数

3，范数不等式

4，扩展范数

二，常见范数

三，范数幂

---

一，范数

1，广义范数

广义范数是满足下列性质的任意函数：

2，狭义范数

狭义范数用来衡量向量的大小。

狭义范数都是凸函数，但都是不可微分的函数。

3，范数不等式

m>p>0, 则

当且仅当xi中至多有1个不为0时，不等式取等号。

也就是说，范数是递减的。p趋于0时范数趋于正无穷，p趋于正无穷时范数趋于常数max{x}，即各个|xi|中最大的那一个。

4，扩展范数

有一些范数不属于广义范数，姑且称之为扩展范数。

如：

L0范数，表示非0分量的个数

TV范数(Total Variation)，表示使图像分片光滑。定义如下: 对图像做两个方向上的差分,然后计算平方和,再取根号，最后全部加起来。

二，常见范数

（0）L0范数。

（1）p=1时，L1范数是向量中各个元素绝对值之和，即曼哈顿距离。

（2）p=2时，L2范数被称为欧几里得范数，即欧几里得距离，常简化表示为 ∥x∥，略去了下标 2。

（3）L∞范数，表示向量中具有最大幅值的元素的绝对值。

（4）F范数，即矩阵的Frobenius 范数，本质上和向量的L2范数是一样的。

三，范数幂

为了简化运算，有时只用范数的幂。

如：

平方L2范数，即L2范数的平方，优势在于既凸又可微分，且对 x 中每个元素的导数只取决于对应的元素。