极大似然估计和贝叶斯估计

问题:
已知数据集D(样本)服从概率分布P,P中参数θ未知,去估计这个θ。
极大似然估计和Bayes估计目的相同,都是估计未知参数θ,甚至计算形式上也较为相似,但是看待和理解问题的思路却大相径庭。

极大似然估计将θ看成一个固定的值,它是真实存在的一个固定的值,只不过我们现在不知道它,需要去求它。
Bayes将θ看成一个随机变量,服从一定的概率分布。它是一个随机变量而不是一个固定值。

极大似然估计中,若某个θ使得样本出现的概率最大,那么这个θ最可能就是真实存在的那个固定的θ。Max(P(D|θ))
而Bayes的思路是θ是个随机变量,随机变量的意思就是,多次实验每次实验的结果求得的θ可能都不一样。在给定的这组数据集的条件下,θ等于哪个值的概率最大。Max(P(θ|D))

对比可知,极大似然估计是在给定什么θ值的情况下样本出现的概率最大,而Bayes则是在给定数据集的条件下θ最大概率的值是什么。这两种思路中条件概率的条件和事件概率正好相反,极大似然是Max(P(D|θ)),而Bayes则是Max(P(θ|D))

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值