似然函数（Likelihood function）是什么

最新推荐文章于 2024-07-28 12:31:02 发布

caimouse

最新推荐文章于 2024-07-28 12:31:02 发布

阅读量2.3w

点赞数 17

分类专栏：深度学习文章标签： ai python tensorflow 深度学习 numpy

本文链接：https://blog.csdn.net/caimouse/article/details/60142085

版权

深度学习专栏收录该内容

127 篇文章 15 订阅

订阅专栏

上次在寻找线性回归最小化函数时，又引出一个新的地雷，一个新的不知道，我们继续上路，开足马车继续寻找“似然函数”，它到底是什么呢？

先来到WIKI上看看定义：
In statistics, a likelihood function (often simply the likelihood) is a function of the parameters of a statistical model given data. Likelihood functions play a key role in statistical inference, especially methods of estimating a parameter from a set of statistics. In informal contexts, "likelihood" is often used as a synonym for "probability." In statistics, a distinction is made depending on the roles of outcomes vs. parameters. Probability is used before data are available to describe possible future outcomes given a fixed value for the parameter (or parameter vector). Likelihood is used after data are available to describe a function of a parameter (or parameter vector) for a given outcome.
接着来到百度上：
统计学中，似然函数是一种关于统计模型参数的函数。给定输出x时，关于参数θ的似然函数L(θ|x)（在数值上）等于给定参数θ后变量X的概率：
L(θ|x)=P(X=x|θ).
似然函数在推断统计学（Statistical inference）中扮演重要角色，尤其是在参数估计方法中。在教科书中，似然常常被用作“概率”的同义词。但是在统计学中，二者有截然不同的用法。概率描述了已知参数时的随机变量的输出结果；似然则用来描述已知随机变量输出结果时，未知参数的可能取值。例如，对于“一枚正反对称的硬币上抛十次”这种事件，我们可以问硬币落地时十次都是正面向上的“概率”是多少；而对于“一枚硬币上抛十次，落地都是正面向上”这种事件，我们则可以问，这枚硬币正反面对称的“似然”程度是多少。
“似然性”与“或然性”或“概率”意思相近，都是指某种事件发生的可能性，不同在于似然性不看重绝对值，只重相对值，所以不要求归一性（一般可以把概率当做似然性，但似然性不能当做概率）。概率（probability)和似然（likelihood)，都是指可能性，都可以被称为概率，但在统计应用中有所区别。概率是给定某一参数值，求某一结果的可能性的函数。似然是给定某一结果，求某一参数值的可能性的函数。例如，抛一枚硬币，抛10次，结果是6次正面向上，其是匀质的可能性多大？似然函数是一种关于统计模型中的参数的函数，表示模型参数中的似然性。例如，抛一枚匀质硬币，抛10次，6次正面向上的可能性多大？解读：“匀质硬币”，表明参数值是0.5，“抛10次，六次正面向上”这是一个结果，概率（probability)是求这一结果的可能性。解读：“抛10次，结果是6次正面向上”，这是一个给定的结果，问“匀质”的可能性，即求参数值=0.5的可能性。

下面来看一个例子：

这个例子，可以看到它采用这个公式计算：

有这个公式，当然就可以使用代码来计算出来，参考了一下网友的代码，实现如下：

#python 3.5.3  蔡军生    
#http://edu.csdn.net/course/detail/2592    
#  
import math

w = 2.0/3  #最大概率
h = 49  #正面次数
t = 31  #反面次数
  
def DefineParam():  
    H=h  
    T=t  
    return H,T  
  
def MaximumLikelihood(p=w):  
    H,T = DefineParam() #获取参数

    #计算C(n, k)部分
    f1 = math.factorial(H+T)/(math.factorial(H)*math.factorial(T))
    #计算p部分
    f2=(p**H)*((1.0-p)**T)        
      
    return f1*f2  

#计算似然数值
print(MaximumLikelihood())

结果输出如下：

====================== RESTART: D:/AI/sample/tf_1.33.py ======================
0.05449673649247178
>>>

到这里总算对似然函数有点了解了，后面继续寻找更多的不知道。