一、似然与概率
在统计学中,概率和似然是不同的概念。
概率是在特定环境下预测某件事情发生的可能性,也就是结果没有产生之前,依据环境所对应的参数来预测某件事情发生的可能性,比如创业成功率10%,失败率90%(这是自定义的哈),在创业前我们并不知道会成功还是失败,只能说成功的可能性有10%。
似然是在已经确定的结果下推测产生这个结果的可能环境参数。比如现在创业了1000次,结果成功90次,失败910次,我们可依据这个结果来判断创业失败率91%,成功率9%,这个过程就是根据结果去判断环境参数。
二、极大似然法
极大似然法( maximum likelihood estimation,MLE )是概率统计中估算模型参数的一种很经典和重要的方法,贯穿了机器学习中生成模型(Generative model)这一大分支的始终。简单来说极大似然法就是在估算概率模型参数。
比如现在有一个参数未知的概率模型和该概率模型产生的一些点,那极大似然法就是在根据这些点去求解该概率模型的参数。
假设概率模型参数未知,定义为,该模型产生点的概率为
,目前已经产生了
个点,则产生这些点的概率为:
极大似然法就是在求解最大。