机器学习 之 贝叶斯分类器

今天，学习了贝叶斯分类的相关内容，总结如下：

贝叶斯的思考方法

在贝叶斯派出现之前，占据主流地位的思考方法是频率派。他们认为，事情发生的频率是一定的（虽然可能算不出来，但是是确定的一个值），然而，样本空间确实不确定的，因此只需要关注样本分布即可。而贝叶斯则认为，参数是随机的（会产生变化），而样本确实固定的，因此需要重点关注参数估计。

为了估计参数，就需要先知道参数的无条件分布，也就是说在有样本之前，参数是什么样的。因此，贝叶斯提出了一个思考方法：

大概的意思就是，新样本观察到的信息将修正我们对于事物之前的认知。也就是说，在得到新信息的样本之前，我们对于事物的认知（一般是经验或历史）是先验分布，拿到了新的样本信息后，就应该变成后验分布了。

贝叶斯定理

贝叶斯定理是根据条件概率得到的。

在事件B发生前，我们需要对事件A发生的费率有一个粗略的判断，也即事件A的先验概率P(A)；
在事件B发生后，我们可以对P(A)进行一个修正，变成后验概率 P(B|A)。

贝叶斯定理的应用：拼写检查

贝叶斯定理的一个应用就是