最大似然估计MLE相关

最新推荐文章于 2024-05-30 14:59:53 发布

天花板上飞着鱼

最新推荐文章于 2024-05-30 14:59:53 发布

阅读量381

点赞数

分类专栏：机器学习

本文链接：https://blog.csdn.net/qq_24367797/article/details/101063898

版权

这篇博客探讨了概率与统计的关系，重点讲解了最大似然估计的步骤和概念。从离散型和连续型变量的角度解释了似然函数，并通过拉普拉斯修正避免了先验概率为0的问题。此外，还比较了最大似然估计与最大后验估计的区别，并将其与线性回归（损失函数为均方误差）和逻辑回归（损失函数为交叉熵）的联系进行了阐述。

摘要由CSDN通过智能技术生成

1.概率与统计

概率：已知模型和参数，研究数据相关特征。

统计：已知数据，推测模型和参数。

2.概率密度

3.最大似然估计的步骤

${\color{Red} \Delta}$ 重点1：最大似然估计的基本假设：样本独立同分布
①写似然函数

a.离散型变量：似然函数是概率分布函数的乘积

b.连续型变量：似然函数是概率密度函数的乘积

${\color{Red} \Delta}$ 重点2：对b的解释：

很显然如果连续型变量似然函数是概率分布函数的乘积是不符合似然函数的意义的，因为F(x)表示的是P{X<=x}，并不能表达P{X=x}的含义。那么为什么是概率密度的乘积，概率密度本身并不是概率啊？自己的理解：实际上连续型似然函数表达的是在样本邻域的概率的乘积，即:

关注

专栏目录