边际似然函数
统计学中,边际似然函数(marginal likelihood function 或 integrated likelihood)是一种似然函数,其中某些参数变量被边缘化。在贝叶斯统计的背景下,它常常代指证据evidence或模型证据model evidence。
概念
给定一组独立同分布的数据点
X
=
(
x
1
,
…
,
x
n
)
X = ({x_1}, \ldots ,{x_n})
X=(x1,…,xn),其中
x
i
∼
p
(
x
i
∣
θ
)
{x_i} \sim p({x_i}|\theta )
xi∼p(xi∣θ),
p
(
x
i
∣
θ
)
p({x_i}|\theta )
p(xi∣θ)是一个概率分布,其参数为
θ
\theta
θ,其中
θ
\theta
θ本身就是一个随机变量,可以用一个概率分布来描述,
即
θ
∼
p
(
θ
∣
α
)
\theta \sim p(\theta |\alpha )
θ∼p(θ∣α)。而边际似然函数就是求概率
p
(
X
∣
α
)
p(X|\alpha)
p(X∣α)是多少,其中参数
θ
\theta
θ被边缘化(marginalized out)而消失:
p
(
X
∣
α
)
=
∫
θ
p
(
X
∣
θ
)
p
(
θ
∣
α
)
d
θ
p(X|\alpha ) = \int_\theta {p(X|\theta )p(\theta |\alpha )d\theta }
p(X∣α)=∫θp(X∣θ)p(θ∣α)dθ
上述定义是在贝叶斯统计背景下提出的。