似然与概率

博主写的太好了，先甩链接http://fangs.in/post/thinkstats/likelihood/，这里在整理一遍

似然与概率
统计学中，似然函数（likelihood function，通常简写为likelihood，似然）是一个非常重要的内容，在非正式场合似然和概率(Probability)几乎是一对同义词，但是在统计学中似然和概率确实两个不同的概念。概率是在特定环境下某件事情发生的可能性，也就是结果没有产生之前依据环境所对应的参数来预测某件事情发生的可能性，举抛硬币的例子来说明，抛之前我们不知道最后那一面朝上，但是根据常识我们可以推测任何一面朝上的可能性均为50%，其中这个概率只有在抛硬币之前才是有意义的，抛完硬币的结果便是确定的；而似然恰好相反，是在确定的结果下取推测产生这个结果的可能环境(参数)，还是抛硬币的例子，假设我们随便抛一枚硬币1000次，结果500次人头朝上，500次数字朝上(实际情况一般不会如此理想)，我们很容易判断这是一枚标准的硬币，两面朝上的概率均为50%，这个过程就是我们运用出现的结果来判断这个事情本身的性质(参数)，也就是似然。

结果和参数相互对应的时候，似然和概率在数值上是相等的，如果用$\theta$表示环境对应的参数，$x$表示结果，那么概率可以表示为：$$P(x|\theta )$$
$P(x|\theta )$是条件概率的表示方法，$\theta$是前置条件，理解为在$\theta$的前提下，事件$x$发生的概率，相对应的似然可以表示为：$$\mathcal{L}(\theta |x)$$
可以理解为已知结果为$x$，参数为$\theta$(似然函数里$\theta$是变量，这里说的参数和变量是相对于概率而言的)对应的概率，即：$$\mathcal{L}(\theta |x)=P(x|\theta )$$
需要说明的是两者在数值上相等，但是意义并不相同，$\mathcal{L}$是关于$\theta$的函数，而$P$则是关于$x$的函数，两者从不同的角度描述一件事情。

举例说明
以伯努利分布(Bernoulli distribution，又叫做两点分布或0-1分布)为例： f ( x ; p ) = { p if