概率论知识：贝叶斯公式理解

似然函数

  似然函数（Likelihood Function）用于衡量一组观察数据在假设的不同参数值下发生的可能性。其定义如下：

  假设一个统计模型由一组未知的参数 $\theta$ 和观测数据 $X$={$x_1$,$x_2$,……,$x_n$}组成，假设观测数据 $X$ 是独立同分布的，且概率密度函数（或概率质量函数）为 $f(x|\theta )$ ，其中 $x$ 是观测数据，$\theta$ 是模型的参数。我们用 似然函数 $L(\theta )$ 描述在已知观测数据 $x$ 下，参数为 $\theta$ 的可能性，它是参数 $\theta$ 的函数。独立同分布，概率取值相乘。
$$L(\theta )=L(x_1,x_2,\dots \dots ,x_n|\theta )=P(x_1|\theta )P(x_2|\theta )\dots \dots P(x_n|\theta )=\prod _{i=1}^{n}f(x_i|\theta )$$

  概率: 描述在固定参数 $\theta$ 下，某一事件 $x$ 发生的可能性。
  似然: 描述已经观察到事件 $x$ ，而参数 $\theta$ 是什么的可能性。

贝叶斯公式

   贝叶斯公式简单讲，就是影响概率发生的条件本身也是有概率的，其数学公式如下：
$$P(A|B)=\frac{P(A)P(B|A)}{P(B)}$$
为方便理解，我们进一步对公式进行解释：
$$P(条件|现象)=\frac{P(条件)P(现象|条件)}{P(现象)}$$

似然概率(条件概率)

   似然概率描述的是条件对现象的解释能力，即在指定条件下观测到现象的概率。
$$P(现象|条件)$$

   在条件概率中引入极大似然估计，可以得到 现象与条件两者可能存在较高的相关性，因此，在实际应用中，我们习惯性称 条件概率 为 似然概率。

先验概率

   先验概率 即条件本身发生的概率。先验概率可以简单理解为 根据已有经验做出的推断得到的概率。
$$P(条件)$$

后验概率

   后验概率是通过观察到现象后反推条件的概率。
$$P(条件|现象)$$

对公式进行处理：
$$P(条件|现象)=\frac{P(条件)P(现象|条件)}{P(现象)}$$
$$P(条件|现象)=P(条件)\frac{P(现象|条件)}{P(现象)}$$
$$后验概率=先验概率\times 标准化的似然概率$$

参考：贝叶斯公式解释为什么你永远说服不了你亲戚的阴谋论