极大似然估计定义及例题

已于 2023-12-26 19:49:53 修改
阅读量2.8k 收藏 9
点赞数 14
分类专栏： 数学 文章标签： 概率论与数理统计 极大似然估计
于 2023-12-26 19:49:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/naozibuok/article/details/135076779
版权

一、极大似然估计定义

  实际上就是说，我们在总体中抽取样本，我们希望在样本中发生的情况最大化，用在样本中发生的情况去估计总体中发生情况。 

二、例题

注意：对分布函数求导得概率密度函数 

三、参考书目

茆诗松, 周纪芗等. 概率论与数理统计 (第三版). 中国统计出版社, 2007

王松桂等. 概率论与数理统计 (第三版). 科学出版社, 2011

同济大学数学系.概率论与数理统计.人民邮电出版社, 2017

R 语言求正态分布的极大似然估计
Mrrunsen的博客
10-04 1770
据据，假设我们并不知道参数的真实值 假设我们并不知道参数的真实值，下面，我们生成一组服从正态分布的数 我们生成一组服从正态分布的数。我们用MLE方法对其进行估计。
[Machine Learning] 极大似然估计（Maximum Likelihood Estimate）
Oh_MyBug的博客
02-16 753
极大似然估计 直观想法（举个例子） 经典例题：有两个外形完全相同地箱子，甲箱中有99只白球，1只黑球；乙箱中有99只黑球，1只白球。一次试验取出一球，结果取出的是黑球。 问：黑球从哪个箱子中取出？ 人们的第一印象就是：“此黑球最像是从乙箱中取出地”，这个推断符合人们的经验事实。“最像”就是“最大似然”之意，这种想法常称为“最大似然原理”（maximum-likelihood）。 定义...
极大似然估计详解
热门推荐
知行流浪
05-28 39万+
极大似然估计         以前多次接触过极大似然估计，但一直都不太明白到底什么原理，最近在看贝叶斯分类，对极大似然估计有了新的认识，总结如下： 贝叶斯决策         首先来看贝叶斯分类，我们都知道经典的贝叶斯公式：         其中：p(w)：为先验概率，表示每种类别分布的概率；：类条件概率，表示在某种类别前提下，某事发生的概率；而为后验概率，表示某事发生
极大似然估计
kangzz1995的博客
10-03 970
#通俗理解 极大似然估计(MLE)和矩估计是数理统计中进行参数估计常用方法.通常我们假设观测到的样本X1,X2,…,XnX_1,X_2,\dots,X_nX1​,X2​,…,Xn​均是从一个统计模型X∼F(x;θ)X\sim F(x;\theta)X∼F(x;θ)随机抽样得到,即n个样本独立同分布,由此可以将联合密度函数写成边际分布函数的连乘形式.P(X1,X2,…,Xn∣θ)=∏i=1nP(Xi...
似然函数与极大似然估计
最新发布
Shockang的博客
03-04 890
🚀 【深度解析极大似然估计】：从数学原理到机器学习实战！涵盖📊概率模型、🤖经典算法对比、💻Python代码实现，详解📈案例分析与🛠️正则化技巧，助你掌握参数估计核心方法，突破过拟合难题，附可视化代码与进阶EM算法！
机器学习之概率与统计（三）- 极大似然估计
程序员小叶的博客
10-10 1万+
目录 一、参数估计 二、极大释然估计 1．似然函数 2．极大似然估计（MLE） 3．log似然函数 4．损失函数 5．求极大似然估计的一般步骤 三、常见分布的参数估计 1．高斯分布 2．Bernoulli分布 3．二项分布（Binomia） 4．多项分布（Multinoull） 四、机器学习模型的参数估计 1.回归 2．线性回归 2.1线性回归的极大似然估计 3．
极大似然估计：一个例子
lichengyu的专栏
11-20 6215
1 题目：已知甲、乙两射手命中靶心的概率分别为0.9及0.4，今有一张靶纸上面的弹着点表明为10枪6中，已知这张靶纸肯定是甲、乙之一射手所射，问究竟是谁所射？【题目选自《应用数理统计》，吴翊、李永乐、胡庆军编著，国防科技大学出版社，1995年8月第1版，第33页例2.7】解：p1 = 0.9， p2 = 0.4，则甲10枪6中发生的概率为 L(p1) =  0.00005则乙1
正态分布下的最大似然估计_正态分布的最大似然估计_
09-30
解这两个方程，我们可以得到μ和σ的极大似然估计： μMLE = Σ(xi) / n （样本均值） σ²MLE = ∑(xi - μMLE)^2 / (n - 1) （样本方差，注意除以n-1得到无偏估计） 这里，μMLE是所有样本值的平均，而σ²MLE是...
机器学习之极大似然估计
陌若安生的博客
07-16 3825
文章目录一、什么是极大似然估计？二、极大似然原理及数学表示三、极大似然估计法(Maximum Likelihood Estimation,MLE)四、 极大似然估计法求估计值的步骤：五、极大似然估计法应用六、总结 一、什么是极大似然估计？ 1.首先来看贝叶斯分类，我们都知道经典的贝叶斯公式： 2.在日常生活中，我们很容易无意中就使用到极大似然估计的思想，只是我们并不知道极大似然估计在数学中的如...
基于R和Python的极大似然估计的牛顿法实现
zns972630879的博客
09-21 6942
前言 最近在学习Theory and Method of Statistics（统计理论方法）,使用的教材是由Bradley Efron 、Trevor Hastie共同编写的Computer Age Statistical Inference: Algorithms, Evidence, and Data Science(《计算机时代的统计推断：算法、演化和数据科学》)。书中第四章讲述的Fisherian Inference and Maximum Likelihood Estimati...
极大似然估计计算例题
01-12
### 极大似然估计计算示例 极大似然估计是一种用于参数估计的方法，其核心思想是在给定观测数据的情况下找到使得该组数据出现可能性最大的模型参数值。 考虑一个简单的例子：设有一个未知均值 \(\mu\) 和已知方差 \(\sigma^2=1\) 的正态分布 \(N(\mu, 1)\)，从中独立抽取了三个样本点\(X_1,X_2,X_3\), 值分别为5.0、6.0和9.0。现在要基于这些样本来估算总体的均值 \(\mu\) [^1]。 为了求解这个问题： - **构建似然函数** 对于单个观察值 \(x_i\) 来说，在给定参数 \(\theta=\{\mu,\sigma^2\}\) 下的概率密度可以表示为： \[f(x|\mu)=\frac{1}{\sqrt {2\pi}}e^{-\frac{(x-\mu)^2}{2}}\] 由于各个样本之间相互独立，则联合概率即为各单独事件发生的概率相乘得到整体发生这三件事的可能性——也就是所谓的“似然”。因此整个样本集对应的似然是： \[L(\mu|x_1,x_2,...,x_n)=\prod_{i=1}^{n} f(x_i | \mu ) = (\frac{1}{\sqrt {2\pi}})^ne^{-\sum^n_{i=1}(x_i - \mu)^2 / 2 }\] 在这个特定的例子中 n=3 并且 \(\sigma ^2=1\) 已经固定下来了所以不需要再作为变量处理 . - **简化对数似然并求导** 通常我们会转而优化更方便操作的形式—取自然对数后的版本 ln(L): \[\ln L=-\frac{n}{2}\log (2\pi)-\frac{1}{2}\sum _{{i=1}}^{n}(x_{i}-\mu )^{2}\] 接着对该表达式关于待估参数μ求偏导数，并令结果等于零来找出可能存在的极值点: \[\partial {\ln L}/\partial {\mu }=\sum _{{i=1}}^{n}(x_{i}-\mu )=0\] 从而得出最优解 \({\hat {\mu }}=(x_1+x_2+...+x_n)/n\) 代入具体数值可得最终的最大似然估计量为 \((5 + 6 + 9)/3 = 6.67\) . ```python import numpy as np # Sample data points from the normal distribution N(mu, sigma^2) samples = [5.0, 6.0, 9.0] sample_mean = sum(samples) / len(samples) print(f"The MLE estimate of mu is approximately: {sample_mean:.2f}") ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

脑子不好真君

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值