贝叶斯

贝叶斯学习笔记摘要

贝叶斯定理基本了解

贝叶斯学派定义：概率表示的是客观上事件的可信程度（degree of belief），也可以说成是主观上主体对事件的信任程度，它是建立在对事件的已有知识基础上的。

举个例子来说，当一个球迷提出“明天湖人队战胜骑士队的概率是 80%”的时候，可以理解成他对湖人获胜有 80% 的把握程度，贝叶斯概率正是来源于对赌博的分析。

除了对概率的置信度解释之外，贝叶斯学派中的另一个核心内容是贝叶斯定理（Bayes’ theorem），用来解决“逆向概率问题”（inverse probability problem）。
注：逆向概率和前向概率是对应的：假定数据由一个生成模型给出，前向概率是在已知生成过程的前提下来计算数据的概率分布和数字特征，逆向概率则是在已知数据的前提下反过来计算生成过程的未知特性。

贝叶斯定理的数学表达式可以写成

式中的 P(H) 被称为先验概率（prior probability）；P(D|H) 被称为似然概率（likelihood probability）；P(H|D) 被称为后验概率（posterior probability）。

所谓先验概率是指根据以往经验和分析得到的概率，可以视为假设 H 初始的可信程度࿱