贝叶斯方法及其应用(２)

　　本文是网上一些文章的整理总结，原文请戳文末。
　　贝叶斯概率和统计概率相对，它从确定的分布中观测到的频率或者在样本空间中的比例来导出概率。采用统计概率的统计和概率的理论由R.A. Fisher, Egon Pearson和Jerzy Neyman在20世纪上半叶发展起来。A. N. Kolmogorov也采用频率概率来通过勒贝格积分为测度论中的概率奠定数学基础（《概率论基础》(1933年)）。Savage, Koopman, Abraham Wald和其他一些学者自1950年以来发展了贝叶斯概率。
　　贝叶斯及贝叶斯派提出了一个思考问题的固定模式：
　　先验分布 + 样本信息 => 后验分布
　　上述思考模式意味着，新观察到的样本信息将修正人们以前对事物的认知。换言之，在得到新的样本信息之前，人们对的认知是先验分布，在得到新的样本信息后，人们对的认知为。其中，先验信息一般来源于经验跟历史资料

　　一般学校里教的概率观其实可以叫频率主义。一个事件，如果重复独立地执行多次，把发生的次数除以执行的次数，就得到一个频率。比如说抛硬币，抛了10000次，有4976次正面向上，频率就是0.4976。然后如果执行的次数很多很多，频率会趋向于一个固定的值，就是这个时间的概率。其实要证明的话牵涉到中心极限定理，不过就不展开了。
　　贝叶斯概率观与此很不同。 主观贝叶斯主义认为，概率就是个人对某个事件发生可能性的一个估计。如果对一个事件你一无所知，那么你可以随便猜一个概率。但因为是估计，如果有新的信息，那就必须根据新信息对概率进行修正。这样的话，随着经历越来越多，对概率的估计也会越来越符合“实际情况”。
　　而贝叶斯定理就是“概率修正”所依赖的理论基础。
　　当然，也有客观贝叶斯主义，他们认为概率只不过是为了在逻辑推理中表达可能性 的一个逻辑扩展，不过这个理解起来可能不太方便。
不论是概率主义也好，主观贝叶斯也好，客观贝叶斯也好，数学本身是一样的，只不过是解释方法不一样。所以贝叶斯定理是通用的，不过就是在不同的场景下有不同的表达方式。
　　下面我们用主观贝叶斯主义来看一下贝叶斯定理。
　　贝叶斯定理说的是，对于事件A和B，它们的概率满足：
　　其中是当事件B发生的条件下，事件A的条件概率；是当事件A发生的条件下，事件B的条件概率；和分别是事件A和B的先验概率，在贝叶斯概率观中，也就是我们对它们概率的一个估计。
　　比如说，事件A是“明天下雨”，事件B是“