机器学习
时空霹雳
这个作者很懒,什么都没留下…
展开
-
EM算法解析
本文介绍EM算法的相关推导过程,同时会介绍混合高斯模型。1.EM算法1.1 EM算法的推导观测数据(不完全数据)X关于参数θ\theta的对数似然函数为: L(θ)=logP(x|θ)=log∑zP(x,z|θ)=log∑z[q(z)P(x,z|θ)q(z)]≥∑zq(z)logP(x,z|θ)q(z)=∑zq(z)logP(x,z|θ)+∑zq(z)logq(z)\begin{a原创 2018-01-21 13:53:23 · 660 阅读 · 0 评论 -
机器学习中正则化项L1和L2的直观理解
正则化(Regularization)原文地址:http://blog.csdn.net/jinping_shi/article/details/52433975机器学习中几乎都可以看到损失函数后面会添加一个额外项,常用的额外项一般有两种,一般英文称作ℓ1-norm,中文称作L1正则化和L2正则化,或者L1范数和L2范数。L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓『惩罚』是指转载 2018-01-16 14:02:53 · 402 阅读 · 0 评论