贝叶斯统计（一）

本文内容参考l贝叶斯思维

贝叶斯方法

逆概率，条件概率
B发生条件下A发生的概率

贝叶斯更新

利用贝叶斯法则根据影响概率的事件更新概率的过程称为贝叶斯更新（Bayesian updating），也叫贝叶斯学习（Bayesian learning）。更一般地说，试图更新的信息可以被认为是“先验”信息，有时简称为先验（prior）。提供相关信息的事件也可以是数据（data）。然后，使用贝叶斯法则更新这个先验信息，得到的信息是以数据为条件的，也被称为后验（posterior），就像在看到数据之后的信息一样。由前到后这个过程叫做贝叶斯更新，它描述的也就是 ：先验+数据→后验 这个过程。

贝叶斯推断

贝叶斯推断是基于概率理论通过观测数据来对一个复杂系统的未知特性进行推断的过程。

贝叶斯推断的一般过程

1确定模型。首先，我们需要确定统计模型，即构建似然函数，即
p(data|θ)p(data|θ) ，这描述了给定特定参数θ下产生当前观测数据的模型机制。
2选择先验分布。在拿到观测数据之前，我们对参数θ 的先验认识，这通过概率分布p(θ) 来描述。
3计算后验分布。在拿到观测数据之后，基于贝叶斯法则计算后验分布p(θ|data)p(θ|data) ，从而更新我们对θ 的认识。
4推断。通过汇总后验分布得出推断结论。
最后一步其实是开放的。例如，我们可以用它来预测数据（如在监督学习中）；我们可以用各种方法（例如点估计）来对
θ 进行推断；可以用它来进行贝叶斯模型比较；可以做贝叶斯模型平均；可以来确定下一步要获得的数据（如实验的最优设计）等等。