机器学习
omadesala
这个作者很懒,什么都没留下…
展开
-
L1正则化如何导致参数的稀疏性
L1正则化如何导致参数的稀疏性一直以来对LR正则化添加的L1,L2 惩罚项没有搞清楚是什么意义pluskid的博客http://freemind.pluskid.org/machine-learning/sparsity-and-some-basics-of-l1-regularization/#67364f6b44ff80f9f952d5a46f2307425d2ee9ac原创 2014-01-01 10:27:56 · 8482 阅读 · 0 评论 -
EM算法之高斯混合模型详细推导过程
高斯混合模型如果有c个高斯分布,并且这k个个高斯分布的选择都符合多项式分布,那么有下面的公式那么样本x 是一个服从多元高斯分布的随机试验中产生的抽样那么可以写出关于样本值(第i个样本)的概率密度函数,假设一共c个类别那么我们可以定义m个观测样本的对数似然函数对数复合函数求导公式代入上面的值进一步可以写成下面的式子由于对第k个正态分布的均值求偏导,因此除第k个正态分布外,其他分部不包含第k个正态分布...原创 2014-05-27 13:19:10 · 14768 阅读 · 3 评论