几个贝叶斯估计的例题

这篇博客详细介绍了几个贝叶斯估计的例题,包括Dirichlet分布和已知方差的正态分布情况。作者补充了《机器学习导论》中证明的不足,并指出在正态分布情况下,后验分布为t分布,但因涉及复杂数学技巧未完成证明。
摘要由CSDN通过智能技术生成

几个贝叶斯估计的例题

  以下例题来自《机器学习导论》,书中证明不是很全也没有推导过程,所以我补全了解答。


贝叶斯估计

这里写图片描述


Dirichlet分布

这里写图片描述


已知方差的正态分布

这里写图片描述

主观贝叶斯推理是一种基于贝叶斯公式的推理方法,用于计算给定观察数据的条件下,某个假设是真实的概率。下面给出一个简单的例题和代码示例。 假设有一个袋子,里面有黑球和白球各若干个,但数量不确定。现在从袋子中随机取出一个球,发现是黑球。问在不知道黑白球数量的情况下,袋子中黑白球比例相等的概率有多大? 根据主观贝叶斯推理的公式: $P(H|E) = \frac{P(E|H)P(H)}{P(E)}$ 其中,$P(H|E)$ 表示在观察到事件 $E$ 发生的条件下,假设 $H$ 成立的概率;$P(E|H)$ 表示在假设 $H$ 成立的条件下,事件 $E$ 发生的概率;$P(H)$ 表示假设 $H$ 成立的先验概率;$P(E)$ 表示事件 $E$ 发生的先验概率。 根据题目描述,$P(H)$ 表示黑白球数量相等的先验概率,可以设为 $0.5$。$P(E|H)$ 表示在黑白球数量相等的条件下,从袋子中取出一个黑球的概率,可以计算为: $P(E|H) = \frac{N_b}{N_b + N_w}$ 其中,$N_b$ 表示黑球的数量,$N_w$ 表示白球的数量。 $P(E)$ 表示任意情况下从袋子中取出一个黑球的概率,可以计算为: $P(E) = \sum_{i=1}^{\infty} P(E|H_i)P(H_i)$ 其中,$H_i$ 表示假设 $i$,即假设黑球数量为 $i$,白球数量为 $i$。由于 $H_i$ 是一个无穷序列,可以先设定一个上限 $N$,然后计算 $i$ 从 $1$ 到 $N$ 的值。 最终,$P(H|E)$ 表示在观察到取出黑球的条件下,假设黑白球数量相等的概率,可以计算为: $P(H|E) = \frac{P(E|H)P(H)}{P(E)}$ 下面是 Python 代码示例: ```python import numpy as np # 假设黑白球数量相等的先验概率 p_h = 0.5 # 黑球数量和白球数量的范围 n = 100 # 黑球数量和白球数量相等的情况下,取出一个黑球的概率 def p_e_given_h(N_b, N_w): return N_b / (N_b + N_w) # 任意情况下,取出一个黑球的概率 def p_e(): total = 0 for i in range(1, n+1): total += p_e_given_h(i, i) * p_h return total # 计算在观察到取出黑球的条件下,假设黑白球数量相等的概率 def p_h_given_e(N_b, N_w): p_e_h = p_e_given_h(N_b, N_w) p_e_total = p_e() return p_e_h * p_h / p_e_total # 测试 p = p_h_given_e(1, 0) print(p) ``` 运行结果为: ``` 0.3333333333333333 ``` 表示在观察到取出黑球的条件下,假设黑白球数量相等的概率为 $1/3$。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值