贝叶斯统计——基础篇

贝叶斯框架

1. 确定先验分布：根据已有的先验知识，确定未知参数的先验分布，若无先验知识可以采用无信息先验。
2. 根据贝叶斯公式计算得到后验分布
3. 基于后验分布对参数θ进行推断

频率（经典）学派VS贝叶斯学派

频率学派：样本空间、频率近似概率、总体+样本信息

贝叶斯学派：参数空间、主观概率的解释、总体+样本+先验信息

预备知识

一、分布密度核（技巧）

1. 概念：概率密度函数中仅包含变量的部分称为核，其余不含变量为常数的部分称为正则化常数因子。可见，核+正则化常数因子=概率密度函数，而概率密度函数的积分恒等于1。
2. 提出这一概念的目的：可以帮助我们快速计算一些较为复杂的积分。因为在得到后验分布的核后，如果能判断出后验分布的类型，就可以直接添加正则化常数因子故而得到后验密度。
3. 步骤：首先，根据给出的函数判断出这是哪个分布的核，然后根据该分布函数添加正则化常数因子，构造出该分布的完整的概率密度函数。因为添加了正则化常数因子，故而还要再乘以该正则化常数因子的倒数才能保持要计算的式子不变。也就是，此时要计算的式子已经变形为正则化常数因子的倒数*该分布的完整的概率密度函数的积分，因为概率密度函数的积分恒等于1，所以最终的计算出的结果应为正则化常数因子的倒数。