似然函数（likelihood function）

1. 似然函数基本定义

令 $X_1, X_2, \ldots, X_n$ 为联合密度函数 $f(X_1, X_2, \ldots, X_n|\theta)$，给定观测值 $X_1=x_1, X_2=x_2, \ldots, X_n=x_n$，关于 $\theta$ 的似然函数（likelihood function） 定义如下：

$$L(\theta)=L(\theta|x_1, x_2, \ldots, x_n)=f(x_1, x_2, \ldots, x_n|\theta)$$

似然函数该怎么理解呢：

• 似然函数不是概率密度函数；
• 似然函数既可作为 frequentist 也可作为 Bayesian 分析的重要组件；
• It measures（似然函数是一种度量） the support provided by the data（给定观测数据对 $\theta$ 的支持程度） for each possible value of the parameter. If we compare the likelihood function at two parameter points（似然函数是关于 $\theta$ 的函数） and find that $L(\theta_1|x)\gt L(\theta_2|x)$ then the sample we actually observed is more likely to have occurred（更可能发生于） if $\theta=\theta_1$ than if $\theta=\theta_2$. This can be interpreted as $\theta_1$ is a more plausible value for $\theta$ than $\theta_2$.

references

• Lecture notes on likelihood function
• Likelihood and all that（R 语言解释）