l2高斯分布_L1正则先验是Laplace分布,L2正则先验分布是高斯分布

本文介绍了Laplace分布及其作为L1正则先验的原因,同时阐述了L2正则化对应的高斯分布。通过最大后验概率推导,说明了L1正则化与拉普拉斯分布、L2正则化与高斯分布的关系,并在机器学习模型中解释了正则化的意义。
摘要由CSDN通过智能技术生成

Laplace分布

Laplace概率密度函数分布为:

equation?tex=P%28x%7C%CE%BC%2C%CE%BB%29+%3D+%5Cfrac%7B1%7D%7B2+%5Clambda%7D+e%5E%7B-%5Cfrac%7B%5Cvert+x+%E2%80%93%5Cmu+%5Cvert%7D%7B%5Clambda%7D%7D 一般μ的取值为0,所以形式如下:

equation?tex=P%28x%7C%CE%BB%29+%3D+%5Cfrac%7B1%7D%7B2+%5Clambda%7D+e%5E%7B-%5Cfrac%7B%5Cvert+x+%5Cvert%7D%7B%5Clambda%7D%7D 分布的图像如下所示

可以看到Laplace分布集中在μ附近,而且b越小,数据的分布就越集中

L2正则先验分布是高斯分布

L1正则先验分布是Laplace分布,L2正则先验分布是Gaussian分布。接下来从最大后验概率的角度进行推导和分析。在机器学习建模中,知道了 x和 y 以后,需要对参数 w 进行建模。那么后验概率表达式如下:

根据条件概率:

equation?tex=P%28%CE%B8%7CX%29%3D%7BP%28X%CE%B8%29%5Cover+P%28X%29%7D

因为:

equation?tex=P%28X%CE%B8%29%3DP%28X%29P%28%CE%B8%7CX%29%3DP%28%CE%B8%29P%28X%7C%CE%B8%29

所以:

equation?tex=P%28%CE%B8%7CX%29%3D%7BP%28%CE%B8%29P%28X%7C%CE%B8%29%5Cover+P%28X%29%7D

因为根据最大化后验概率的时候,由于P(A)的结果是知道的(这是一个固定的值,观测到的),因此,最大化后验概率其实就是:

equation?tex=max%5C%7BP%28%CE%B8%29P%28X%7C%CE%B8%29%5C%7D 此时可见,后验概率受到两个部分的影响,P(X|θ)类似于似然函数和P(θ)先验分布。当假设先验分布是1的时候,此时的后验概率和似然函数就等价了

equation?tex=argmax%5C%3Bp%28%CE%B8%7CX%29%3Dargmax%5C%3B%7Bp%28X%7C%CE%B8%29p%28%CE%B8%29%5Cover+p%28X%29%7D ,由于P(x)的结果是知道的,所以可以省略分母P(X)

式子可以写成:

equation?tex=argmax%5C%3Bp%28%CE%B8%7CX%29%3Dargmax%5C%3B%7Bp%28X%7C%CE%B8%29p%28%CE%B8%29%7D

因为:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值