最小二乘法 正则化 范数

最小二乘法
对差值平方型的目标函数进行优化,求偏导解方程

正则化
在目标函数的基础上增加一项,该项称为正则化项或者惩罚项,防止模型过拟合

范数
有两个比较特别的范数:
L0范数:向量非0元素个数
无穷范数:向量中绝对值最大的元素
其他范数都可以套公式
比如:
L1范数:是各个元素绝对值相加的值
L2范数:各元素绝对值平方相加再开二次方
Ln范数:各元素绝对值的n次方相加再开n次方

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值