前言
一、频率派
简单地说,频率学派与贝叶斯学派探讨「不确定性」这件事时的出发点与立足点不同。频率学派从「自然」角度出发,试图直接为「事件」本身建模,即事件A在独立重复试验中发生的频率趋于极限p,那么这个极限就是该事件的概率。举例而言,想要计算抛掷一枚硬币时正面朝上的概率,我们需要不断地抛掷硬币,当抛掷次数趋向无穷时正面朝上的频率即为正面朝上的概率
二、贝叶斯派
然而,贝叶斯学派并不从试图刻画「事件」本身,而从「观察者」角度出发。贝叶斯学派并不试图说「事件本身是随机的」,或者「世界的本体带有某种随机性」,这套理论根本不言说关于「世界本体」的东西,而只是从「观察者知识不完备」这一出发点开始,构造一套在贝叶斯概率论的框架下可以对不确定知识做出推断的方法。频率学派下说的「随机事件」在贝叶斯学派看来,并不是「事件本身具有某种客观的随机性」,而是「观察者不知道事件的结果」而已,只是「观察者」知识状态中尚未包含这一事件的结果。但是在这种情况下,观察者又试图通过已经观察到的「证据」来推断这一事件的结果,因此只能靠猜。贝叶斯概率论就想构建一套比较完备的框架用来描述最能服务于理性推断这一目的的「猜的过程」。因此,在贝叶斯框架下,同一件事情对于知情者而言就是「确定事件」,对于不知情者而言就是「随机事件」,随机性并不源于事件本身是否发生,而只是描述观察者对该事件的知识状态。
贝叶斯定理
通常,在开始分析时,总是对所关心的特定事件估计一个初始或先验概率。然后,当我们从样本、专项报告分析时,就能根据这些新增信息计算修正概率,更新后验概率值得到后验概率。贝叶斯定理提供了进行这种概率计算的一种方法。
对于离散随机变量
X
X
X和
Y
Y
Y:
P
Y
∣
X
(
y
∣
x
)
=
P
X
Y
(
x
,
y
)
P
X
(
x
)
=
P
X
∣
Y
(
x
∣
y
)
P
Y
(
y
)
∑
y
′
∈
V
a
l
(
Y
)
P
X
∣
Y
(
x
∣
y
′
)
P
Y
(
y
′
)
P_{Y | X}(y | x)=\frac{{P_{XY}}(x, y)}{P_{X}(x)}=\frac{P_{X | Y}(x | y) P_{Y}(y)}{\sum_{y^{\prime} \in V a l(Y)} P_{X | Y}\left(x | y^{\prime}\right) P_{Y}\left(y^{\prime}\right)}
PY∣X(y∣x)=PX(x)PXY(x,y)=∑y′∈Val(Y)PX∣Y(x∣y′)PY(y′)PX∣Y(x∣y)PY(y)
对于连续随机变量 X X X和 Y Y Y:
f Y ∣ X ( y ∣ x ) = f X Y ( x , y ) f X ( x ) = f X ∣ Y ( x ∣ y ) f Y ( y ) ∫ − ∞ ∞ f X ∣ Y ( x ∣ y ′ ) f Y ( y ′ ) d y ′ f_{Y | X}(y | x)=\frac{f_{X Y}(x, y)}{f_{X}(x)}=\frac{f_{X | Y}(x | y) f_{Y}(y)}{\int_{-\infty}^{\infty} f_{X | Y}\left(x | y^{\prime}\right) f_{Y}\left(y^{\prime}\right) d y^{\prime}} fY∣X(y∣x)=fX(x)fXY(x,y)=∫−∞∞fX∣Y(x∣y′)fY(y′)dy′fX∣Y(x∣y)fY(y)
贝叶斯定理广泛应用于决策分析中。先验概率经常是由决策者主观估计的。在取得样本信息后,计算后验概率以供决策者选择最佳策略。
参考
知乎 - 贝叶斯学派与频率学派有何不同?
《商务与经济统计》原书13版