L Norms 范数

最新推荐文章于 2025-02-13 17:48:59 发布

原创

最新推荐文章于 2025-02-13 17:48:59 发布 · 1.7k 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#线性代数

本文详细介绍了向量和矩阵的L范数，包括L0、L1、L2、L∞范数的概念及其应用。L0范数表示非零元素个数，L1范数用于区分接近零的元素，L2范数即欧几里得距离，L∞范数是最大元素的绝对值。在矩阵范数中，讨论了1-范数、2-范数（谱范数）、∞-范数和Frobenius范数，这些范数在不同场景下有着不同的意义和用途。

Norms 范数

一、向量范数
矩阵范数

一、向量范数

在机器学习中，我们经常使用被称为范数（ norm）的函数衡量向量大小。 $L^p$ 范数定义如下： $\|\boldsymbol{x}\|_p=\Big(\displaystyle\sum_i|x_i|^p\Big)^\frac{1}{p}$ 其中 $p\in\mathbb{R}，p\geq 1$

范数是将向量映射到非负值的函数。向量 $\boldsymbol{x}$ 的范数衡量从原点到点 $\boldsymbol{x}$ 的距离。更严格地说，范数是满足下列性质的任意函数：

$f(\boldsymbol{x}) = 0 \Rightarrow \boldsymbol{x} = \boldsymbol{0}$
$f(\boldsymbol{x + y}) ≤ f(\boldsymbol{x}) + f(\boldsymbol{y})$ （三角不等式（ triangle inequality））
$\forall\,\alpha\in\mathbb{R},f(\alpha\boldsymbol{x})=|\alpha|f(\boldsymbol{x})$