一、似然函数
似然函数是一个函数,自变量是概率。一个例子快速帮助理解
抛掷一枚特制的银币10次,正面向上出现7次,反面向上出现3次,问,正面的概率P是多少?
答案是不言而喻的?
怎么计算呢?
其实这个过程就利用了似然函数
假设正面概率为
注意,上面以为自变量的函数就叫做似然函数
我们使得“正面向上出现7次,反面向上出现3次”这一事件发生的概率最大
即 时候的就是我们要求的
直接上图
取0.7时达到最大值。
很神奇吧,我们一开始居然能一下子说出的极大值点为0.7。
二、多分类交叉熵损失
我们继续一个例子来帮助直观理解
给定一个三面体,有A/B/C三面,做二十次抛掷,记录落地一面,出现的结果为A10,B3,C7
仍然来求每面朝地的概率pa,pb,pc
这个时候,有两个未知数pa,pb,1-pa-pb
我们可以向上边一样列出似然函数,并且可以直接得出极值点
对于一个多变量的优化问题,其实可以视为只出现两种结果,A和非A
因此仍然可以通过二分类进行求解
同样的,在机器学习中,给定标签0,0,1
对应于实验中出现的次数