今天,学习了贝叶斯分类的相关内容,总结如下:
贝叶斯的思考方法
在贝叶斯派出现之前,占据主流地位的思考方法是频率派。他们认为,事情发生的频率是一定的(虽然可能算不出来,但是是确定的一个值),然而,样本空间确实不确定的,因此只需要关注样本分布即可。而贝叶斯则认为,参数是随机的(会产生变化),而样本确实固定的,因此需要重点关注参数估计。
为了估计参数,就需要先知道参数的无条件分布,也就是说在有样本之前,参数是什么样的。因此,贝叶斯提出了一个思考方法:
大概的意思就是,新样本观察到的信息将修正我们对于事物之前的认知。也就是说,在得到新信息的样本之前,我们对于事物的认知(一般是经验或历史)是先验分布,拿到了新的样本信息后,就应该变成后验分布了。
贝叶斯定理
贝叶斯定理是根据条件概率得到的。
在事件B发生前,我们需要对事件A发生的费率有一个粗略的判断,也即事件A的先验概率P(A);
在事件B发生后,我们可以对P(A)进行一个修正,变成后验概率 P(B|A)。
贝叶斯定理的应用:拼写检查
贝叶斯定理的一个应用就是