机器学习面试必知：贝叶斯原理

先总结下频率派与贝叶斯派各自不同的思考方式：
～频率派把未知参数$\theta$当作是固定的未知常数。样本X是随机的，重点研究的是样本空间，大部分的计算也是针对样本X的分布
～贝叶斯派截然相反，认为$\theta$是随机变量，样本X是固定的。重点研究的是参数$\theta$分布

频率派很好理解，因为X样本已知，所以在最大似然方法下很容易去求得一个$\theta$值使得模型的概率最大。而贝叶斯认为$\theta$是随机变量，求的是$\theta$的分布，但我们并没有$\theta$的样本空间也就不知道$\theta$的无条件分布。由此引出了贝叶斯原理最核心的公式$$p(\theta |X)=\frac{p(X|\theta )p(\theta )}{p(X)}$$$$先验信息+样本信息\to 后验信息$$新样本X的信息起到了对先验信息的修正作用，使得后验信息达到最大值的方法称为MAP类似于极大似然估计。

先验$p(\theta )$是在事件X发生前的概率
后验$p(\theta |X)$是在事件X发生后，我们重新评估了$\theta$的概率
更通俗的理解$$p(规律|现象)=\frac{p(现象|规律)p(规律)}{p(现象)}$$

携程机器学习笔试编程第二题朴素贝叶斯