Laplace分布
Laplace概率密度函数分布为:
一般μ的取值为0,所以形式如下:
分布的图像如下所示
可以看到Laplace分布集中在μ附近,而且b越小,数据的分布就越集中
L2正则先验分布是高斯分布
L1正则先验分布是Laplace分布,L2正则先验分布是Gaussian分布。接下来从最大后验概率的角度进行推导和分析。在机器学习建模中,知道了 x和 y 以后,需要对参数 w 进行建模。那么后验概率表达式如下:
根据条件概率:
因为:
所以:
因为根据最大化后验概率的时候,由于P(A)的结果是知道的(这是一个固定的值,观测到的),因此,最大化后验概率其实就是:
此时可见,后验概率受到两个部分的影响,P(X|θ)类似于似然函数和P(θ)先验分布。当假设先验分布是1的时候,此时的后验概率和似然函数就等价了
,由于P(x)的结果是知道的,所以可以省略分母P(X)
式子可以写成:
因为: