一、贝叶斯公式(一些必备的数学基础)
贝叶斯(Thomas Bayes)是生活在十八世纪的一名英国牧师和数学家。因为历史久远,加之他没有太多的著述留存,今天的人们对贝叶斯的研究所知甚少。唯一知道的是,他提出了概率论中的贝叶斯公式。但从他曾经当选英国皇家科学学会会员(类似于院士)来看,他的研究工作在当时的英国学术界已然受到了普遍的认可。
事实上,在很长一段时间里,人们都没有注意到贝叶斯公式所潜藏的巨大价值。直到二十世纪人工智能、机器学习等崭新学术领域的出现,人们才从一堆早已蒙灰的数学公式中发现了贝叶斯公式的巨大威力。为了方便后续内容的介绍,这里我们先来简单复习一下概率论中的一些基本知识。
事件A在另外一个事件B已经发生条件下的发生概率,称为条件概率,记为P(A|B)。
两个事件共同发生的概率称为联合概率。A与B的联合概率表示为 P(AB) 或者P(A,B)。