今天讲一个在机器学习中重要的方法——极大似然估计。
这是一个,能够让你拥有拟合最大盈利函数模型的估计方法。
01
什么是极大似然估计法
极大似然估计是 1821 年由高斯提出,1912 年由费希尔完善的一种点估计方法。
通俗来说,极大似然估计法其实源自生活的点点滴滴,比方说有一个大学生他天天上课不听讲,天天上课玩手机,老师盯着他看了老半天,他也不知道收敛一些,那通过老师几十年的教学经验的判断,这小子期末一定是挂科的,果不其然,他真的挂科了。
老师以过去大量的相同事件来判断目前正在发生的类似事件,这就是极大似然。
其实一开始写这个分享,我准备了很多小故事,希望用风趣幽默的文法把一个很抽象的数学名词尽可能的讲给所有人听,让大家都能理解并接受。后来我发现,用上面老师和学生的例子是最为贴切的,因为也曾经这样预判过别人。
好啦,故事讲完了,接下来就是重头菜了,原理看着很清晰,但实操起来,需要概率论基础以及利用微分求极值。
导数
导数的概念的其实挺简单的,这里我们不要求掌握太多的关于微积分的公式,只消会求导就可以了,关于基本初等函数的求导,大家可以在这里查找自己需要的求导公式。
复合函数的求导满足链式法则:
值得一提的还有关于导函数求驻点,即令 ,并求解 x,所得到的 x 即为驻点,驻点回代原函数可得极值。
02
求解极大似然估计量的四步骤
终于到了本文的小高潮