Lp范数与数据拟合

Lp范数在数据拟合中起到关键作用,不同p值对应不同的统计特性:L0范数对应众数,L1范数对应中位数,L2范数对应平均数,而L+∞范数对应中程数。p值的选择影响对异常值的敏感度,L2范数最敏感,L1范数相对不敏感,L0范数则无感。0 摘要由CSDN通过智能技术生成

Lp范数


定义如下,p取值范围[0,+∞) 

其中L0范数表示非零数据的个数

   L+∞范数表示数据中的最大值

   L-∞ 范数表示数据中的最小值

 

与数据拟合的关系


数据拟合中,通常说通过Lp范数最小化求解,是指yi的p次方和作为损失函数(无需再开p次方)

  

损失函数最小,以求解表达式中的参数。通常取 p>=1(主要是了大数据计算方便)

实际在小数据、少量参数情况下,通过优化算法,可以实现0<p<1情况的数据拟合

以上公式只有在p=0,以及p=+∞时,才需要严格按照Lp范数的定义赋予损失函数

 

要理解Lp范数对数据拟合的意义,我们先考虑如下情况

p= 0  时,a 的结果为数列X的     众数 (由于0^0问题,此时损失函数需要按L0范数的定义写)

p= 1  

  • 6
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值