数理统计与数据分析第三版习题 第3章 第33-35题

题目33

如3.5.2节的例子3.5.2.5，假定读者认为硬币正面向上的先验观点可以用[0,1]的均匀密度来表示，现在反复地转动硬币，并记录下转动次数$N$,直到正面向上为止。因此如果在第一次转动时正面就向上则$N=1$，等等。
a.计算给定$N时\Theta$的后验密度
b.用一枚新造的硬币重新试验，作出后验密度的图形

解题思路

参考本题中提到的例子3.5.2.5
$\Theta$的先验概率为
$$f_{\Theta }(\theta )=1$$
给定$\theta ,N$服从成功概率为$\theta$的几何分布：
$$f_{N|\Theta }(n|\theta )=(1-\theta {)}^n\theta$$
现在$\Theta$是连续的，$N$是离散的,它分具有联合概率分布：
$$f_{\Theta ,N}(\theta ,n)=f_{N|\Theta }(n|\theta )f_{\Theta }(\theta )=f_{N|\Theta }(n|\theta )=(1-\theta {)}^n\theta$$
计算$N$的边际密度
$$f_N(n)={\int }_0^1{f}_{\Theta ,N}(\theta ,n)d\theta ={\int }_0^1(1-\theta {)}^n\theta d\theta$$
下边是$f_N(n)$积分过程:
$$\begin{array}{rl}{f}_N(n)& ={\int }_0^1{f}_{\Theta ,N}(\theta ,n)d\theta \\ & ={\int }_0^1(1-\theta {)}^n\theta d\theta \\ & ={\int }_0^1(\theta -1)(1-\theta {)}^{n-1}d\theta +{\int }_0^1(1-\theta {)}^{n-1}d\theta \\ & =-{\int }_0^1(1-\theta )(1-\theta {)}^{n-1}d\theta +{\int }_0^1(1-\theta {)}^{n-1}d\theta \\ & =-{\int }_0^1(1-\theta {)}^{n}d\theta +{\int }_0^1(1-\theta {)}^{n-1}d\theta \\ & =--{\int }_0^1(1-\theta {)}^{n}d(1-\theta )+-{\int }_0^1(1-\theta {)}^{n-1}d(1-\theta )\\ & ={\int }_0^1(1-\theta {)}^{n}d(1-\theta )-{\int }_0^1(1-\theta {)}^{n-1}d(1-\theta )\\ & ={\left[\frac{(1-\theta {)}^{n+1}}{n+1}-\frac{(1-\theta {)}^n}{n}\right]}_0^1\\ & =\frac{1}{n(n+1)}\end{array}$$
根据条件概率公式：
$$\begin{array}{rl}{f}_{\Theta |n}(\theta |n)& =\frac{f_{\Theta ,N}(\theta |n)}{f_N(n)}\\ & =\frac{(1-\theta {)}^n\theta }{\frac{1}{n(n+1)}}\\ & =n(n+1)(1-\theta {)}^n\theta \end{array}$$
a.小问最后答案：
$$n(n+1)(1-\theta {)}^n\theta$$

题目34

如3.5.2节的例子3.5.2.5，假定读者认为硬币正面向上的先验观点可以用[0,1]的均匀密度来表示，假定先验密度是参数为$a=b=3$的贝塔密度，这反映出有更强的先验观点认为出现1面的几率是$\frac{1}{2}$,做出先验密度图形，根据例子中的推导过程，计算后验密度，并作出它的图形且与例子中所示的后验密度相比较。

首先做出先验密度图形：

下面推导后验概率，为了避免与贝塔分布中的参与$a,b$区分我们先令题目中的$a,b$为$c,d$都等于3

$\Theta$的先验概率为
$$f_{\Theta }(\theta )=\frac{\Gamma (i+j)}{\Gamma (i)\Gamma (j)}{\theta }^{i-1}(1-\theta {)}^{j-1}$$
给定$\theta ,N$服从成功概率为$\theta$的二项分布：
$$f_{X|\Theta }(x|\theta )=(\genfrac{}{}{0ex}{}{n}{x}){\theta }^x(1-\theta {)}^{n-x}$$
现在$\Theta$是连续的，$N$是离散的,它分具有联合概率分布：
$$f_{\Theta ,X}(\theta ,x)=f_{X|\Theta }(x|\theta )f_{\Theta }(\theta )=(\genfrac{}{}{0ex}{}{n}{x}){\theta }^x(1-\theta {)}^{n-x}\frac{\Gamma (i+j)}{\Gamma (i)\Gamma (j)}{\theta }^{i-1}(1-\theta {)}^{j-1}$$
计算$N$的边际密度
$$f_X(x)={\int }_0^1{f}_{\Theta ,X}(\theta ,x)d\theta$$
下边是$f_X(x)$积分过程:
$$\begin{array}{rl}{f}_X(x)& ={\int }_0^1{f}_{\Theta ,X}(\theta ,x)d\theta \\ & ={\int }_0^1\left(\genfrac{}{}{0ex}{}{n}{x}\right){\theta }^x(1-\theta {)}^{n-x}\frac{\Gamma (i+j)}{\Gamma (i)\Gamma (j)}{\theta }^{i-1}(1-\theta {)}^{j-1}\\ & =\left(\genfrac{}{}{0ex}{}{n}{x}\right)\frac{\Gamma (i+j)}{\Gamma (i)\Gamma (j)}{\int }_0^1{\theta }^x(1-\theta {)}^{n-x}{\theta }^{i-1}(1-\theta {)}^{j-1}d\theta \\ & =\left(\genfrac{}{}{0ex}{}{n}{x}\right)\frac{\Gamma (i+j)}{\Gamma (i)\Gamma (j)}{\int }_0^1{\theta }^{x+i-1}(1-\theta {)}^{n-x+j-1}d\theta \\ 其中：& \\ & {\int }_0^1{\theta }^{x+i-1}(1-\theta {)}^{n-x+j-1}d\theta =\frac{\Gamma (x+i)\Gamma (n-x+j)}{\Gamma (x+i+n-x+j)}\\ 则：& \\ f_X(x)& =\left(\genfrac{}{}{0ex}{}{n}{x}\right)\cdot \frac{\Gamma (i+j)}{\Gamma (i)\Gamma (j)}\cdot \frac{\Gamma (x+i)\Gamma (n-x+j)}{\Gamma (x+i+n-x+j)}\\ 计算:& \\ f_{\theta |X}(\theta |x)& =\frac{f_{\Theta ,X}(\theta ,x)}{f_X(x)}\\ & =\frac{\Gamma (x+i+n-x+j)}{\Gamma (x+i)\Gamma (n-x+j)}\cdot {\theta }^{x+i-1}(1-\theta {)}^{n-x+j-1}\end{array}$$
则本题的事后验密度满足a=x+i,b=n-x+j贝塔分布
根据题意$i=j=3,n=20,x=13 $做出后验分布图形

题目35

找一枚新造硬币，站立在边缘上转动20次，依照3.5.2节的例3.5.2.5。计算并绘出后验分布，再转动20次，并计算出40次转动结果的后验分布，当转动次数增加值有什么情况发生了。

解题思路

按要求转动硬币
n=20 正面为8次，n=40时，正面为19次
计算绘图

红色为n=20 蓝色为n=40,次数越多，越集中

以下解题过程都是由互联网收集而来，并不保证正确，如有疑问可以留言讨论