最大似然估计&贝叶斯决策

最大似然估计

已知分布,寻找一个参数,使得这个分布发生的概率最大。
θ = a r g m a x ∏ i = 1 n p ( x i ; θ ) \theta=argmax\prod_{i=1}^np(x_i;\theta) θ=argmaxi=1np(xi;θ)

也可以理解为最小化KL散度。

举例:
一个硬币被抛了100次,61次正面朝上,假设正面朝上的概率分别为1/3,1/2,2/3,以上三个哪个是最大似然估计?

P ( H = 61 ∣ p = 1 3 ) = 9.6 × 1 0 − 9 P(H=61|p=\frac{1}{3})=9.6\times10^{-9} P(H=61p=31)=9.6×109
P ( H = 61 ∣ p = 1 2 ) = 0.007 P(H=61|p=\frac{1}{2})=0.007 P(H=61p=21)=0.007
P ( H = 61 ∣ p = 2 3 ) = 0.4 P(H=61|p=\frac{2}{3})=0.4 P(H=61p=32)=0.4

所以 p = 2 3 p=\frac{2}{3} p=32是最大似然估计。

贝叶斯决策

1.基于最小错误概率
2.基于最小风险

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值