L0 Norm 、L1 Norm 和 L2 Norm 的简单理解

最新推荐文章于 2024-05-13 12:52:03 发布
最新推荐文章于 2024-05-13 12:52:03 发布
阅读量5.8k 收藏 6
点赞数
分类专栏： 深度学习知识点笔记 文章标签： L0 Norm 、L1 Norm 和 L2 Norm 的简单理解
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nanhuaibeian/article/details/103335957
版权
本文介绍了L0、L1和L2范数的基本概念，L0范数衡量非零元素数量，常用于判断用户名和密码是否匹配；L1范数又称曼哈顿距离，是向量分量绝对差之和；L2范数即欧几里得距离，是两点间最短直线距离。
摘要由CSDN通过智能技术生成

文章目录

一、L0 Norm

L0 范数对应于向量中非零元素的总数
例如，向量（0,0）和（0,2）的L0范数为1，因为只有一个非零元素。

L0范数的一个很好的实用示例是当具有两个向量（用户名和密码）时。
如果向量的L0范数等于0，则登录成功。否则，如果L0范数为1，则意味着用户名或密码不正确，但都不正确。最后，如果L0规范为2，则意味着用户名和密码都不正确。

二、L1 Norm

也称为 曼哈顿距离或出租车规范。
L1范数是空间中向量的大小之和。这是测量向量之间距离的最自然的方法，即向量分量的绝对差之和。
在此规范中，向量的所有分量均被加权。

例如，向量X = [3,4]：
在这里插入图片描述
L1范数的计算公式为

了解本专栏 订阅专栏 解锁全文
南淮北安
关注
专栏目录
订阅专栏
l1_and_l2_loss_function:可视化 L1-norm 和 L2-norm 损失函数之间的差异
07-10
l1_and_l2_loss_function 可视化 L1-norm 和 L2-norm 损失函数之间的差异 用于视觉验证 L1-norm 和 L2-norm 损失函数稳定性属性的脚本。 实验设计： 用变化的 y = b * x + c + random_number 生成 N 个基本点。 生成具有明显超出此范围的异常点的 M 个数据集。 绘制 M 个图以查看不同的异常点将如何导致不同的模型表现。
机器学习(拓展)L1,L2-Norm理解
黑洲非人lyf
04-04 2万+
首先理解范数的概念L1、L2这种在机器学习方面叫做正则化，统计学领域的人喊她惩罚项，数学界会喊她范数。范数(norm)是数学中的一种基本概念。在泛函分析中，它定义在赋范线性空间中，并满足一定的条件，即①非负性；②齐次性；③三角不等式。它常常被用来度量某个向量空间（或矩阵）中的每个向量的长度或大小。L1就是曼哈顿距离L2就是欧式距离再理解什么是稀疏矩阵在矩阵中，若数值为0的元素数目远远多于非0元素的...
L1 norm和L2 norm
a120623105的专栏
09-02 1667
在论文中经常会出现L1 norm和L2 norm
常用范数：L0范数、L1范数、L2范数、L∞范数
YHKKun的博客
03-21 1328
例如，对于向量[1, -3, 5, -7]，其L∞范数为7，因为该向量中绝对值最大的元素是-7（注意，这里取的是绝对值最大的元素，因此不考虑符号）。例如，对于向量[1, -2, 3, -4]，其L1范数为|1| + |-2| + |3| + |-4| = 1 + 2 + 3 + 4 = 10。在机器学习中，常用的范数有L0范数、L1范数（有时也被称为稀疏规则算子）、L2范数（欧几里得范数）、L∞范数（最大范数）等。在Lp空间中，函数的范数定义为其绝对值函数的p次幂在整个定义域上的积分的p次根。
【什么是范数】L1、L2范数介绍
最新发布
王尼莫的博客
05-13 2688
范数（Norm）是数学中用于衡量向量大小(或距离)的一种概念。在几何和代数中，范数可以提供一个向量长度或大小的量度。更正式地说，范数是一个函数，它将向量的集合映射到非负实数，满足以下性质：在数学上，范数包括向量范数和矩阵范数，向量范数表征向量空间中向量的大小，矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是，对应向量范数，向量空间中的向量都是有大小的，这个大小如何度量，就是用范数来度量的，不同的范数都可以来度量这个大小，就好比米和尺都可以来度量远近一样当 p=2 时，它是欧几里得范数；
L0 norm、L1 norm、L2 norm(L0、L1、L2范数)
晶麒一生
12-04 8560
L0、L1、L2范数介绍
L1-norm (L1范数) L2-norm(L2范数)
w__Y__w的博客
12-08 1万+
L1-norm (L1范数) L2-norm(L2范数) 同样存在L0、L3等，L1、L2范数应用比较多。 一个向量的 norm 就是将该向量投影到 [0, ∞​) 范围内的值，其中 0 值只有零向量的 norm 取到。不难想象，将其与现实中距离进行类比，在机器学习中 norm 也就总被拿来表示距离关系：根据怎样怎样的范数，这两个向量距离多远。这里怎样怎样的范数就是范数的种类，即p-norm，严格定义为： 当p取1时被称为1-norm，也就是L1-norm，同理可得L2-norm。 L1..
L1-norm 与 L2-norm (Least Absolute Deviations and Least Squares)
FreeDope的博客
04-25 1829
在练习机器学习时，您可能会选择使用L1范数或L2范数进行正则化或作为损失函数，等等。 L1-范数也称为最小绝对偏差（LAD），最小绝对误差（LAE）,又叫做 taxicab-norm 或者 Manhattan-norm。这基本上是将目标值（Yi）与估计值 (f(xi)) 之间的绝对差（S）的总和最小化： L2-范数也称为最小二乘。它基本上是最小化目标值（Y i）与估计值（f（x i）之间的差（S...
翻译：L0 Norm, L1 Norm, L2 Norm & L-Infinity Norm；范数(norm)是数学中的一种基本概念
Hali_Botebie的博客
05-06 1301
L0 Norm:It is actually not a norm. (See the conditions a norm must satisfy here【维基百科关于norm的定义】). Corresponds to the total number of nonzero elements in a vector.L1 Norm:L2 norm:Gives the largest magnitude among each element of a vector.给出向量的每个元素中的最大幅度。
（转）几种范数的解释 l0-Norm, l1-Norm, l2-Norm, … , l-infinity Norm
a1424262219的博客
10-06 947
几种范数的解释 l0-Norm, l1-Norm, l2-Norm, … , l-infinity Norm fromRorasa's blog l0-Norm, l1-Norm, l2-Norm, … , l-infinityNorm 13/05/2012rorasa I’m working on things related to ...
L0smoothing.rar_L0范数光滑_l0_l0范数_norm L0
07-14
常见的范数有L1范数（Manhattan距离）、L2范数（Euclidean距离）和L∞范数（Chebyshev距离）。而L0范数并非真正的范数，因为它不满足范数的所有性质，但它在优化问题中被广泛使用，特别是在稀疏表示和压缩感知领域。...
irntv.zip_L1-TV_L2 正则化_TV-norm_tv 正则_去卷积 正则化
07-15
TV正则化去卷积the Iteratively Reweighted Norm algorithm for solving the generalized TV functional, which includes the L2-TV and and L1-TV problems
范数（norm） ：L-P，L0，L1，L2范数的简单介绍
weixin_58045467的博客
06-07 7365
我们知道距离的定义是一个宽泛的概念，只要满足非负、自反、三角不等式就可以称之为距离。范数是一种强化了的距离概念，它在定义上比距离多了一条数乘的运算法则。有时候为了便于理解，我们可以把范数当作距离来理解。在数学上，范数包括向量范数和矩阵范数，向量范数表征向量空间中向量的大小，矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是，对应向量范数，向量空间中的向量都是有大小的，这个大小如何度量，就是用范数来度量的，不同的范数都可以来度量这个大小，就好比米和尺都可以来度量远近一样；
l1-norm loss & l2-norm loss （l1范数和l2范数作为正则项的比较）
兔角与禅
04-23 8031
l1-norm loss & l2-norm loss （l1范数和l2范数作为正则项的比较） l1-norm 和 l2-norm是常见的模型优化过程中的正则化项，对应到线性回归的领域分别为lasso Regression和 Ridge Regression，也就是 lasso 回归（有的地方也叫套索回归）和岭回归（也叫脊回归）。在深度学习领域也用l1和l2范数做正则化处理。这里简要介绍...
L1/L2 Norm
weixin_30906701的博客
08-30 82
\(L^2 norm\) \(l^2 norm\) 定义如下： $ x = \left[ x_1, x_2, ..., x_n \right]^T$，那么定义 $ |x| = \sqrt{ \sum_{i=1}^n x_i^2 } $。L2 norm 也称为欧几里得 Norm。 \(L^1 norm\) \(l^1 norm\) 定义如下： $ x = \left[ x_1, x_2, ...
L1 norm, L2 norm
jubincn的专栏
11-08 297
L1 norm就是绝对值相加，又称曼哈顿距离L2 norm就是欧几里德距离
L1 norm与L2 norm
热门推荐
ZhangZX的专栏
08-27 3万+
欧氏距离（Euclidean distance）也称欧几里得度量、欧几里得度量，是一个通常采用的距离定义，它是在m维空间中两个点之间的真实距离。在二维和三维空间中的欧氏距离的就是两点之间的距离。 计算公式 二维的公式 　　ρ = sqrt( (x1-x2)^2+(y1-y2)^2 ) 三维的公式 　　ρ = sqrt( (x1-x2)^2+(y1-y2)^2+(z1-z2)^2 ) n
深度学习：有监督学习、无监督学习和半监督学习
南淮北安的博客
10-21 2万+
是否有监督（supervised），就看输入数据是否有标签（label）。输入数据有标签，则为有监督学习，没标签则为无监督学习。 文章目录一、监督式学习二、无监督式学习三、半监督式学习 一、监督式学习 在监督式学习下，输入数据被称为“训练数据”，每组训练数据有一个明确的标识或结果，如对防垃圾邮件系统中“垃圾邮件”“非垃圾邮件”，在建立预测模型的时候，监督式学习建立一个学习过程，将预测结果与“训练...
if norm not in ("l1", "l2", "max")
10-03
L1范数和L2范数是常见的正则化项，用于在机器学习和优化问题中约束模型的参数。L1范数倾向于产生稀疏解，即只有部分参数具有非零值，可以用于特征选择。而L2范数对离群点更具鲁棒性，对应于高斯先验。当我们希望参数具有稀疏性时，通常使用L1范数作为正则化项，因为它是L0范数的凸近似。 如果在正则化中使用的范数不是"L1"、"L2"或"max"，那么这可能是其他范数或者自定义的范数。这些范数可能有不同的性质和应用领域。可以根据具体的问题和需求选择适合的范数。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

南淮北安

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值