统计决策与贝叶斯估计

统计决策与贝叶斯估计

平方损失函数：L($\theta ,d$) = $(\theta -d{)}^2$
其中: $d(X)$-决策函数
R($\theta ,d$) =$E_{\theta }[L(\theta ,d(X))]$ 称为决策函数 $d(X)$的风险函数,表示当真参数为$\theta$时，采用决策$d$所遭受的平均损失.
$R_B(d)=E[R(\theta ,d)]$ 称为d的贝叶斯风险.

后验概率公式
$h(\theta |x)=\frac{\pi (\theta )q(x|\theta )}{m(x)}$
后验分布集中体现了样本和先验分布两者所提供的关于总体信息的总和。

共轭先验分布求解：
1.求解似然函数$q(x|\theta )$;
2.根据$q(x|\theta )$中所含的$\theta$因式的情况，选取与似然函数具有相同核的分布作为先验分布，这个分布往往就是共轭先验分布.
eg: 总体服从二项分布B(N,$\theta$), 共轭先验分布是 贝塔分布 Be($\alpha ,\beta$)

贝叶斯估计
$R_B(d^{\ast })=\underset{d}{\inf }{R}_B(d)$ , $\forall d\in D$
贝叶斯估计量$d^{\ast }(X)$ 就是使贝叶斯风险 $R_B(d)$ 达到最小的决策函数.
设$\theta$的先验分布为$\pi (\theta )$和损失函数为 L($\theta ,d$) = $(\theta -d{)}^2$ ，则$\theta$的贝叶斯估计是
$d^{\ast }(X)=E(\theta |X=x)={\int }_{\Theta }\theta h(\theta |x)d\theta$ 其中：$h(\theta |x)$为参数$\theta$的后验密度.