统计学习方法EM算法的错误指出

最新推荐文章于 2019-07-31 12:52:04 发布
最新推荐文章于 2019-07-31 12:52:04 发布
阅读量669 收藏 1
点赞数 1
文章标签： 统计学习方法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/share727186630/article/details/88305875
版权

不知道看统计学习方法的小伙伴有没有注意到李航老师在书上有一推导的错误的地方，在书上159页，利用Jensen不等式下面

在使用Jensen不等式之后的推导，出现了alg(b)-lg(c)=alg(b/c)这种形式的推导。很明显是错误的

 

虽然最后还是能推导出最后的式子，但是书上写的有一个明显的BUG，在此指出

我叫噗噗噗
关注
《统计学习方法》勘误表_李航
01-27
统计学习方法固然牛气，但是不免李航老师还是有点小失误，于是就出现了统计学习方法的勘误表
李航《统计学习方法》错误汇总修编
rosefun96的博客
12-03 4007
正确打开形式：从尾往上查，直到自己版本的书时修改版为止。参考：李航统计学习方法修正
EM算法总结
weeeeeida的博客
04-19 560
EM算法（Expectation-Maximum）算法。 1，要解决的问题 在一些情况下，我们得到的观察数据有未观察到的隐含数据，此时我们有未知的隐含数据和模型参数，因而无法直接用极大化对数似然函数得到模型分布的参数。怎么办呢？这就是EM算法可以派上用场的地方了。 算法思路 假设未知的隐含数据为z，模型参数为θθ\theta。 已知的输入数据为: x=(x(1),x(2),.....
《统计学习方法》勘误表
Will Lin的博客
10-01 6421
去年刚接触机器学习时拜读过李航老师的统计学习方法，很有收获。 最近看到李航老师更新了新的勘误表，转载作为收藏 原文链接 http://blog.sina.com.cn/s/blog_7ad48fee01017dpi.html#cmt_3285959
李航《统计学习方法》EM算法导出，式9.13详细推导
weixin_40779727的博客
07-31 827
感觉书中对式子9.13的推导不严谨，补充式子（9-13）完整推导： 对于观测数据Y（不完全数据）关于参数 θ 的对数似然函数： L(θ)=log⁡P(Y∣θ)=log⁡∑ZP(Y,Z∣θ)=log⁡(∑ZP(Y∣Z,θ)P(Z∣θ)) \begin{aligned} L(\theta) &=\log P(Y | \theta)=\log \sum_{Z} P(Y, Z | \the...
统计计算-EM算法（R语言）
08-01
EM算法，全称为Expectation-Maximization（期望-最大化）算法，是一种在处理含有隐变量的概率模型时，用于参数估计的迭代方法。在统计计算领域，EM算法常常被用来解决最大似然估计的问题，尤其在数据存在缺失或者...
机器学习EM算法.pdf
05-07
EM算法，即期望最大化算法，是一种在统计学和机器学习领域用于含有隐变量的概率模型参数估计的迭代算法。在处理含有隐变量的概率模型时，直接应用最大似然估计会遇到困难，因为模型中的隐变量无法直接观测到。EM算法...
EM算法 统计学习基础
03-02
《统计学习基础》和《统计学习方法》这两本书中，对EM算法的讲解各有侧重。《统计学习基础》可能更注重基础概念的解释和实例的引入，而《统计学习方法》则可能更深入地探讨算法的理论和推导。在学习过程中，可以先...
李航老师《统计学习方法》第2版课件：第9章 EM算法.rar
03-10
下面将对EM算法及其在统计学习中的应用进行详细阐述。 EM算法是Expectation（期望）和Maximization（最大化）两个步骤的组合，主要应用于最大似然估计或者最大后验概率估计的场景，尤其是在数据不完全或存在观测...
机器学习GMM-EM算法(数据:iris)
最新发布
05-12
标题中的“机器学习GMM-EM算法”指的是在机器学习领域广泛应用的一种概率模型——高斯混合模型（Gaussian Mixture Model, GMM）及其参数估计方法期望最大化（Expectation-Maximization, EM）算法。GMM是一种假设数据...
李航/徐亦达 统计学习方法第九章EM算法及其推广总结和习题答案
李滚滚的博客
02-23 5027
强烈推荐徐亦达老师关于EM算法的讲解视频，本文根据徐老师和李航老师统计学习方法整理，由于公式推导太多，笔记为手写。其中包含混合高斯模型的理解，形象化解释，以及习题链接。 习题 习题9.1和9.3 习题9.4 ...
机器学习：《统计学习方法》笔记（三）—— EM算法
qq_24034545的博客
11-28 1127
参考：《统计学习方法》——李航； 摘要 介绍了EM算法的推导过程、步骤及在三硬币模型中的应用等内容。 正文 1. 什么地方要用EM算法 EM算法主要用于含有隐含变量的模型参数估计问题。如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计或极大后验估计。当概率模型含有隐含变量时，就需要用EM算法来估计参数了。EM算法就是含有隐含变量的概率模型参数的极大似然估计或极大后验估计...
统计学习方法学习笔记一
秋水顽石
03-16 1万+
第一章 统计学习方法概论 统计学习的主要特点是 统计学习的对象 统计学习方法的分类 统计学方法的三个要素 统计学方法的步骤 统计学习的研究 监督学习supervised leaning 三要素 模型 策略 算法 训练误差与测试误差 过拟合 训练误差和测试误差与模型复杂度之间的关系 模型的选择方法正则化和交叉验证 生成模型和判别模型 几种模型评估标准第一章 统计学习方法概论统计学习的主要特点是
EM算法公式推导 （详细）
小x的博客
05-30 1909
EM算法的理解以及应用
热门推荐
Jipon
01-08 1万+
本文是《统计学方法》第九章自己的笔记，为了更方便的理解，本文对转载的文章内容稍作修改。EM算法的每次迭代由两部分组成：E步，求期望；M步，求极大。所以这一算法称之为期望极大算法，简称EM算法。 EM算法的引入 介绍一个使用EM算法的例子： 三硬币模型 有ABC三枚硬币，单次投掷出现正面的概率分别为π、p、q。利用这三枚硬币进行如下实验： 1、第一次先投掷A，若出现
对于EM算法的理解，看这一篇就够了
近光的博客
10-30 3881
EM算法实际上就是含有隐变量的概率模型参数的极大似然估计法，或极大后验概率估计法。 其中对EM有两种理解，第一种是通俗的简单理解，另外一种对应的是李航的《统计学习方法》中的解释 通俗理解 极大似然估计 假设现在有一个盒子，其中白球有99个，黑球有1个。那么我们很清楚的就可以得出我们从盒子里面摸一个球出来，摸到白球的概率是99/100，摸到黑球的概率是1/100。这就叫做先验概率。 现在假设盒子中有...
《统计学习方法》-EM算法引例的说明
geeksu的博客
09-17 1375
最近在哥们在看统计学习方法的时候，对于EM算法的引例子9.1中三硬币模型有疑问，于是我做了相应的整理和推导，希望对机器学习爱好者有所帮助，共勉。   例子大概是这样的：        假设有3枚硬币，分别记作A，B,C，这些硬币正面出现的概率分布分别是PI，p和q，进行如下的硬币是实验：先投掷硬币A，根据其结果选出硬币B和C,正面选B,反面选C;然后投掷选出的硬币，出现正面记作1，出现方面记
5.【笔记】统计学习方法—EM算法
菜鸟打怪升级副本
06-11 432
1.EM是什么 1.1 E：求期望 1.2 M：极大 2. 代码
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值