似然函数

在机器学习的算法中，我们经常会见到“似然函数”这个概念。那么，什么是“似然函数”呢？
如果直接看似然的话，比较让人迷惑。但是如果看英文名“Likelihood function ”，就可以大体明白，是表明“可能性”的函数。
我们知道，通常情况下，我们是利用“概率”这个词来表名可能性的。比如：我们知道抛一枚硬币，其正面朝上的概率为p=0.5。那么，在我们抛3次时，其全部朝上的概率是：p=0.5*0.5*0.5 ,也就是说，这个3次全部向上的可能性是p。
那么似然所对应的可能性是什么呢？
假设另外一种情况：当我们连抛三次，出现三次都是向上的时候，那我们问，抛一次，朝上的概率是多少呢？或者说，抛一次朝上的可能性是多大呢？此时的可能性，指的就是似然。而最大似然，就是指把这种可能性进行最大化。
由此，我们可以看到两者的一些差异：
概率，是用于在已知一些参数的情况下，预测接下来的观测所得到的结果；
而似然性 则是用于在已知某些观测所得到的结果时，对有关事物的性质的参数进行估计。
在这里，参数可以是指单个的概率，也可以指某些像$\theta$类的参数。