人工智能学习笔记3：贝叶斯决策理论part 2（最大似然数估计ML）

最新推荐文章于 2022-04-16 18:18:28 发布
最新推荐文章于 2022-04-16 18:18:28 发布
阅读量256 收藏 2
点赞数
分类专栏： 模式识别 文章标签： 算法 深度学习 机器学习 数据挖掘
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/caihaihua0572/article/details/117258438
版权

上一部分讲了贝叶斯决策的基本概念和使用它来做分类器（判别函数、决策面）
接下来引入

最大似然估计和贝叶斯参数估计

在这里插入图片描述

每个样本集中的样本都是所谓 独立 同分布的随机变量【任何时刻的取值都为随机变量，如果这些随机变量服从同一分布，并且互相独立，那么这些随机变量是独立同分布。】，且有充分 的训练样本

在这里插入图片描述

类的条件概率密度估计（非常难），可分为这两类

在这里插入图片描述
说到那么难的一个问题，所以我们本章的重点就是：
在这里插入图片描述

试试用最大似然数估计解决这个问题

初始化一下条件

单个参数ML估计

在这里插入图片描述
介绍一下那个未知参数的含义
在这里插入图片描述
要解决的问题：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
ML的求解：
在这里插入图片描述

多个参数情况下ML估计

唯一解情况
在这里插入图片描述
其他情况
在这里插入图片描述
在这里插入图片描述
无法求解的情况：均匀分布
在这里插入图片描述

正态分布情况分析
在这里插入图片描述

最后解得

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Mario cai
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
人工智能数学基础--极大似然估计
sinat_39593423的博客
07-01 3266
极大似然估计 极大似然估计的原理，用一张图片来说明，如下图所示： 原理：极大似然估计是建立在极大似然原理的基础上的一个统计方法，是概率论在统计学中的应用。极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。通过若干次试验，观察其结果，利用试验结果得到某个参数...
CSU人工智能与模式识别复习-贝叶斯决策理论
风雨不知归
10-26 916
CSU人工智能与模式识别复习-贝叶斯决策理论 决策规则： 该决策能够使得在观测值xxx下的条件错误率p(erroe∣x)p(erroe|x)p(erroe∣x)最小。 几种等价表示： 决策的错误率：Bayes最小错误率决策使得每个观测值下的条件错误率最小因而保证了平均错误率最小。 条件错误率：p(erroe∣x)p(erroe|x)p(erroe∣x) 平均错误率： 假设ttt是两类的分界面，则当特征向量为一维时，ttt为xxx轴上的一点，如图所示
人工智能学习笔记2：贝叶斯决策理论part1（BAYES基本准则、决策面、分类器）
caihaihua0572的博客
05-25 1264
贝叶斯决策必须符合的要求 模式识别基础概念：特征空间、特征向量、类型空间， 最小错误率准则 例子 最小风险准则 最小风险贝叶斯决策： 考虑各种错误造成损失不同而提出的一种决策规则。 MR最小风险概率估计 举个例子看看这两个准则在实际中的应用 因为无法将其判断所以我们需要引入第三个准则 根据似然数比：先验未知无法MAR，损失未知无法MR Neyman-Pearson 准则假定先验概率是一个确定的值 ，此时判定结果会受到先验概率的影响 。 最小最大决策准则 ： 在最差的条件下 争
人工智能初学- 1.2 最大似然估计及贝叶斯算法
linzihahaha的博客
11-06 505
最大似然思想 最大似然法是一种具有理论性的参数估计方法。         基本思想是：当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。一般步骤包括： 写出似然函数 对似然函数取对数，并整理 求导数 解似然方程 对于思想的理解可以参考https://www.cnblogs.com/xing901022/p/8418894.html，说...
【人工智能那些事】3、极大似然估计(MLE)和最大后验估计(MAP)
兴趣使然的创作者
04-16 1366
机器学习中有两个概念并不是非常容易理解。本篇博文就通过一个抛硬币的题目来解读这两个概念。 题目 详解 本题的详解可参考我在B站发布的视频 Link：极大似然估计/最大后验估计—通过抛硬币例子理解 极大似然估计/最大后验估计—通过抛硬币例子理解 下面附一张第2问的手稿： ...
maxLik：：：constrOptim2_最大似然估计_
09-30
最大似然估计源代码，最优化求解，凸优化求解
moshishibie.zip_最大似然方法_模式识别_贝叶斯_贝叶斯估计_贝叶斯决策
07-13
2.采用最大似然估计方法，求男女生身高以及体重分布的参数； 3.采用贝叶斯估计方法，求男女生身高以及体重分布的参数（注明自己选定的参数情况）； 4.采用最小错误率贝叶斯决策，画出类别判定的决策面。并判断某样本...
fit_matlab_最大似然数法；估计参数；拟合_
10-01
用最大似然数法进行参数估计，进行边缘分布拟合
PR代码及资料.zip_最大似然估计_贝叶斯_贝叶斯 身高
09-21
2. 采用最大似然估计方法，求男女生身高以及体重分布的参数； 3. 采用贝叶斯估计方法，求男女生身高以及体重分布的参数（注明自己选定的参数情况）； 4. 采用最小错误率贝叶斯决策，画出类别判定的决策面。并判断某...
最大似然序列估计：使用维特比算法的最大似然序列估计-matlab开发
05-31
参考资料：参见 K Vasudevan 所著“数字通信和信号处理”一书中的第 5.2 节
机器学习系列文章：贝叶斯决策理论
人工智能讲师团
09-22 1194
引言   训练计算机使之根据数据进行推断是统计学和计算机科学的交叉领域，其中统计学家提供有数据做推断的数学框架，而计算机科学家研究推断方法如果在计算机上有效地实现。    数据来自于一个不完全清楚的过程，将该过程作为随机过程建模表明我们缺乏知识。也许该过程实际上是确定性的，但是因为我们没有获取关于它的完全知识的途径，所以我们把它作为一个随机过程建模，并且用概率理论来分析它。   有时候，我们...
人工智能科普｜极大似然估计——机器学习重要知识点
喜欢打酱油的老鸟
02-04 1049
https://www.toutiao.com/a6649579620909711879/   2019-01-23 14:45:03 经常有许多对人工智能领域跃跃欲试的小伙伴在后台发私信问我“怎样快速入门人工智能呢？” 对于这样的问题，我我又要“老生常谈”了——作为一门庞大而又繁杂的综合学科，学习的过程一定需要逐步理解、逐层深入。一蹴而就是不可能的。         今天就...
【机器学习基本理论】详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解
喜欢打酱油的老鸟
08-14 788
【机器学习基本理论】详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解   https://mp.weixin.qq.com/s/6H0gmMWvTExySMraroLVlQ   最大似然估计（Maximum likelihood estimation, 简称MLE）和最大后验概率估计（Maximum a posteriori estimation, 简称MAP）...
参数估计—最大似然估计与贝叶斯估计
qq_45785407的博客
11-07 2958
文章目录一 参数估计二 最大似然估计2.1 参数分量2.2 基本原理2.3 高斯情况2.3.1 协方差矩阵Σ\SigmaΣ已知，而均值μ\muμ未知2.3.2 协方差矩阵Σ\SigmaΣ和均值μ\muμ都未知三 贝叶斯估计3.1 基本原理3.2 高斯情况下的贝叶斯估计3.2.1 单变量情况第一步：p(μ∣D)p(\mu|D)p(μ∣D)3.2.2 单变量情况第二步：p(x∣D)p(\textbf{x}|D)p(x∣D)四 最大似然估计与贝叶斯估计比较参考 一 参数估计 在贝叶斯决策论中，我们已经学习了如何根
最大似然估计（MLE）与最大后验概率（MAP）
weixin_33743880的博客
01-14 149
何为：最大似然估计（MLE）： 最大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。可以通过采样，获取部分数据，然后通过最大似然估计来获取已知模型的参数。 最大似然估计是一种统计方法，它用来求一个样本集的相关概率密度函数的参数。利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值。 最大似然估计中采样需满足一个很重要的假设，就是所有的采样都是独立同分...
人工智能：分类算法——朴素贝叶斯、决策树的简单理解与代码实现，SVM、人工神经网络的简单理解
weixin_43973089的博客
04-21 5945
下文使用代码： 链接：pan.baidu.com/s/1sR2bt_Iu89M3h_8XMPjEuQ 提取ey3q 分类算法朴素贝叶斯、决策树、SVM、人工神经网络+汽车分类实战一、 实验目的二、 实验的硬件、软件平台三、 实验算法原理（一） 朴素贝叶斯算法（二） 决策树算法（三） 支持向量机（四） 人工神经网络四、 数据分析与预处理1. 了解文本数据集的情况并阅读算法代码说明文档；2. 读取并处理数据，将上面的字符串数据转换为整型数字来简化操作3. 分类算法的总体流程五、 算法系统设计1. 朴素贝叶斯.
游戏开发中的人工智能（十三）：不确定状态下的决策：贝叶斯技术
学愈进而愈惘
07-29 3393
接上文 游戏开发中的人工智能（十二）：概率概论本文内容：贝叶斯技术是概率技术，本章解释如何运用，以便在游戏中做决策并适应游戏。不确定状态下的决策：贝叶斯技术本章要介绍贝叶斯推论和贝叶斯网络，教你怎么把这些技术应用在游戏中。准确的说，是使用这些技术让 NPC 在游戏世界处于不确定状态下做决策，也会讲解简单的贝叶斯模型，让你的 NPC 可以适应变动的情况。我们会用到大量的概率，如果你不熟悉概率，可以先读
机器学习----贝叶斯分类器（贝叶斯决策论和极大似然估计）
欢迎来到我的酒馆
04-12 6642
贝叶斯决策论贝叶斯决策论（Bayesian decision theory）是概率框架下实施决策的基本方法。在所有相关概率都已知的理想情况下，贝叶斯决策论考虑如何基于这些概率和误判断来选择最优的类别标记。
最大似然估计与贝叶斯估计
一个菜鸟
07-29 1751
在这两种估计中，都是假设样本概率密度函数形式已知，需要估计的是是概率密度函数中的参数。虽然使用贝叶斯方法和最大似然估计的结果很相似，但这两个方法在本质上有很大的不同。在最大似然估计方法中，我们把需要估计的参数向量看作是一个确定而未知的参数。而在贝叶斯学习方法中，我们把参数向量看成
贝叶斯估计和最大似然估计的差异
最新发布
09-04
贝叶斯估计和最大似然估计都是概率统计中的常见方法，它们在统计学和机器学习中都有广泛的应用。 贝叶斯估计和最大似然估计都是用来估计概率分布中的参数的方法。其中，最大似然估计是根据样本数据来确定参数值，...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Mario cai

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值