似然函数简明讲解

更多深度学习资讯都在公众号：DLCV

**概述：**统计学中，似然函数是一种关于统计模型参数的函数。当给定输出$x$时，关于参数$\theta$的似然函数$L(\theta |x)$似然值等于给定参数$\theta$后变量$x$的发生概率$L(\theta |x)=P(X=x|\theta )$。

实列：一枚正反对称值的硬币，做上抛一次正面朝上的概率为0.5，那么上抛三次都为正面的概率P为$0.5\ast 0.5\ast 0.5=0.125$。但是，如果已知上抛十次硬币，且有七次为正面，三次为反面，则这枚硬币的对称值L(正面朝上的极大似然值)为0.7。如果上抛无穷次都为正面朝上的话，那么正面朝上的极大似然值就为1，表示接下来抛硬币正面朝上的概率为1。

**求解：**对上述例子进行求解最大似然值。.
上述抛十次硬币的例子转为公式$P(A)=p^7\ast (1-p{)}^3$，对该式子取对数可得$\ln (P(A))=\ln \left(p^7\ast (1-p{)}^3\right)=7\ln (p)+3\ln (1-p)$令${\ln }^{\prime }(P(A))=0$可得$\frac{7}{p}+\frac{3}{p-1}=0$，求解得p=0.7。表示这种事件的最大概率为0.7。

公式解说：

假设样本集 D = { x 1 , x 2 , ⋯   , x N } D=\left\{x_{1}, x_{2}, \cdots, x_{N}\right\} D={x1​,x2​,⋯,xN​}中的样本都是独立分布，似然函数为：$l(\theta )=p(D|\theta )=p\left(x_1,x_2,\cdots ,x_N|\theta \right)={\prod }_{i=1}^{N}p\left(x_i|\theta \right)$，求使似然函数$l(\theta )$最大的$\theta$。