人工智能学习笔记2：贝叶斯决策理论part1（BAYES基本准则、决策面、分类器）

最新推荐文章于 2021-09-18 18:24:24 发布
最新推荐文章于 2021-09-18 18:24:24 发布
阅读量1.3k 收藏 10
点赞数 2
分类专栏： 模式识别 文章标签： 概率论 算法 几何学 抽象代数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/caihaihua0572/article/details/117258351
版权

贝叶斯决策必须符合的要求

请添加图片描述

模式识别基础概念：特征空间、特征向量、类型空间，

请添加图片描述

在这里插入图片描述

最小错误率准则

在这里插入图片描述

在这里插入图片描述
例子
在这里插入图片描述

最小风险准则

最小风险贝叶斯决策： 考虑各种错误造成损失不同而提出的一种决策规则。
MR最小风险概率估计

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
举个例子看看这两个准则在实际中的应用

在这里插入图片描述
因为无法将其判断所以我们需要引入第三个准则
在这里插入图片描述

根据似然数比：先验未知无法MAR，损失未知无法MR

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
Neyman-Pearson 准则假定先验概率是一个确定的值 ，此时判定结果会受到先验概率的影响 。
在这里插入图片描述

最小最大决策准则

： 在最差的条件下 争 取最 好 的结果，使最大风险最小！
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

看完三个准则我们开始用这些准则做分类器

分类器基本概念
在这里插入图片描述

判别函数的选择和规则
在这里插入图片描述
判别的过程
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
继续下一步。

判别函数融入高斯分布

生活中大多数事件都符合高斯分布

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

正态分布的判别函数例子

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

Mario cai
关注
  • 2
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
贝叶斯决策理论
Always On The Way
04-28 1009
贝叶斯决策理论 贝叶斯决策理论（Bayesian decision theory）：假设分类问题有ccc个类别，各类别的状态用wiw_{i}wi​表示，i=1,2,…,ci = 1, 2, \dots, ci=1,2,…,c，各类别wiw_{i}wi​的先验概率为P(wi)P(w_{i})P(wi​)；给定ddd维特征空间中某一向量（点）x=[x1,x2,…,xd]T\mathbf{x} = [x...
CSU人工智能与模式识别复习-贝叶斯决策理论
风雨不知归
10-26 920
CSU人工智能与模式识别复习-贝叶斯决策理论 决策规则： 该决策能够使得在观测值xxx下的条件错误率p(erroe∣x)p(erroe|x)p(erroe∣x)最小。 几种等价表示： 决策的错误率：Bayes最小错误率决策使得每个观测值下的条件错误率最小因而保证了平均错误率最小。 条件错误率：p(erroe∣x)p(erroe|x)p(erroe∣x) 平均错误率： 假设ttt是两类的分界面，则当特征向量为一维时，ttt为xxx轴上的一点，如图所示
人工智能学习笔记3：贝叶斯决策理论part 2（最大似然数估计ML）
caihaihua0572的博客
05-25 258
上一部分讲了贝叶斯决策的基本概念和使用它来做分类器（判别函数、决策面） 接下来引入 最大似然估计和贝叶斯参数估计 每个样本集中的样本都是所谓 独立 同分布的随机变量【任何时刻的取值都为随机变量，如果这些随机变量服从同一分布，并且互相独立，那么这些随机变量是独立同分布。】，且有充分 的训练样本 类的条件概率密度估计（非常难），可分为这两类 说到那么难的一个问题，所以我们本章的重点就是： 试试用最大似然数估计解决这个问题 初始化一下条件 单个参数ML估计 介绍一下那个未知参数的含义 要解决的问题：
贝叶斯定理决策规则及Bayes思想总结
仰望星空的麦兜
04-28 6720
贝叶斯定理决策规则及Bayes思想总结 贝叶斯决策方法作为一种风险型决策方法，在实际中的应用较广泛。企业重要的经营决策大多是在不确定的情况下进行的，具有一定的风险性，决策的科学性及稳定性在很大程度上依赖于对未来决策所涉及各自然状态的把握程度。风险决策时方案选择决定于外界环境状态，而这种状态是无法确知的，更不受决策者控制，但通过判断、调查和实验，可以获得有关信息，贝叶斯决策理论为此提供了科学的方法
机器学习系列文章：贝叶斯决策理论
人工智能讲师团
09-22 1199
引言   训练计算机使之根据数据进行推断是统计学和计算机科学的交叉领域，其中统计学家提供有数据做推断的数学框架，而计算机科学家研究推断方法如果在计算机上有效地实现。    数据来自于一个不完全清楚的过程，将该过程作为随机过程建模表明我们缺乏知识。也许该过程实际上是确定性的，但是因为我们没有获取关于它的完全知识的途径，所以我们把它作为一个随机过程建模，并且用概率理论来分析它。   有时候，我们...
基于贝叶斯决策理论的分类器.ppt
05-27
§1 引言 §2 Bayes决策理论 最小错误率的贝叶斯决策 最小风险的贝叶斯决策 §3 Bayes分类器和判别函数 §4 正态分布的Bayes决策
Bayes.zip_Bayes error rate_分类_贝叶斯_贝叶斯 身高_贝叶斯分类器
07-15
在IT领域，尤其是在数据科学和机器学习中，贝叶斯分类器是一种常用的方法，它基于概率理论中的贝叶斯定理。"Bayes.zip_Bayes error rate_分类_贝叶斯_贝叶斯 身高_贝叶斯分类器"这个主题涉及到的是一个具体的项目，...
基于贝叶斯决策理论的分类器(1).pptx
10-12
基于贝叶斯决策理论的分类器是一种在模式识别领域广泛应用的方法，它利用概率统计理论来处理分类问题。在这个理论框架下，我们首先需要理解几个关键概念： 1. **模式识别**：模式识别是指通过分析对象的特征值来对...
Di.zip_bayes 分类_分类器_诊断_贝叶斯_贝叶斯分类算法
09-24
在“Di.zip_bayes 分类_分类器_诊断_贝叶斯_贝叶斯分类算法”这个压缩包中，我们可以推测其中包含的是一个关于贝叶斯分类算法的应用或诊断工具。 1. **贝叶斯定理**：贝叶斯定理是概率论中的一个重要概念，由英国...
模式识别实验：Bayes 分类器设计
最新发布
12-06
1.根据最小错误率贝叶斯决策，利用 Matlab 完成分类器的设计。 1）写出相应程序语句的文字说明； 2）程序设计过程中，要求有子程序的调用。 3）根据上述例题中的数据，画出后验概率的分布曲线以及分类的结果示意...
最小最大风险判别准则
12-20
最小错误概率Bayes决策最小风险Bayes决策 Neyman-Pearson决策
【机器学习】贝叶斯决策准则
yanchb3的专栏
08-14 849
贝叶斯决策准则 先验概率p(y)已知，直接根据贝叶斯公式求后验概率，如最小损失准则，最小误判概率准则。 先验概率p(y)未知，可以使用聂曼-皮尔逊决策(N-P决策)来计算决策面；最大最小损失规则主要就是使用解决最小损失规则时先验概率未知或难以计算的问题的。 先验概率已知 最小损失准则： 先验概率未知 我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我...
贝叶斯决策(Bayesian Decision Theory)
一直大萝北的萝北坑
01-02 7100
贝叶斯决策 学习了一个学期的模式识别课程，老师讲的很好，深入浅出，无奈我脑子不够用没有理解到其中精髓，现在整理了一下听课笔记，以备以后需要时翻阅。这篇文章记录的是贝叶斯决策，其中包括最大后验、最大似然和贝叶斯决策的直观理解和数学理论。 关于先验和后验 关于什么是先验概率和后验概率， 余生最年轻在他的博客里解释的很好。先验(Priori )概率直观上理解，所谓“先”，就是在事情之前，即在事情发生之前...
贝叶斯法则
泠山的博客
06-02 1640
贝叶斯法则1. 贝叶斯定理1.1贝叶斯定理有什么用1.2 公式1.2.1 先验概率1.2.2 可能性函数1.2.3 后验概率2. 示例2.1 方法一2.2 方法二 Reference： 怎样用非数学语言讲解贝叶斯定理（Bayes’s theorem）？ 1. 贝叶斯定理 1.1贝叶斯定理有什么用 贝叶斯为了解决一个逆概率问题，而提出了贝叶斯定理。 与之相对的正向概率的意思是：假设有一个抽奖活动，抽奖桶里有10个球，其中2个白球，8个黑球，抽到白球算中奖，那么随便摸出一个球，摸出中奖球的概率为：2/(2+
统计决策方法--贝叶斯决策
苦行僧般的修行者--liuchyi
06-08 1670
要学好模式识别，数学基础要扎实，不然连个矩阵基本知识都如协方差矩阵都不知道如何去分析各种判别函数，如何寻求最优解，如何证明结论就是正确的。 应用贝叶斯分类要求： 1.各类别总体概率分布已知，即先验概率和类条件密度 2.要决策的类别数已知（类别数一定且而知）。 贝叶斯决策的基本思想是根据一定的概率模型得到样本属于某种的后验概率，然后根据后验概率的大小进行决策，而后验概率又正比于先验概率和类条
贝叶斯分类决策
愿万事胜意
02-28 3359
目录 先验概率、条件概率与后验概率的概念 先验概率 条件概率 后验概率 加大难度，来个辨析题 贝叶斯决策理论 基于最小错误率的贝叶斯决策 基于最小风险的贝叶斯决策 先验概率、条件概率与后验概率的概念 先验概率 先验概率是指根据以往经验和分析得到的概率，如全概率公式，它往往作为"由因求果"问题中的"因"出现的概率。 通俗点讲，先验概率就是事情尚未发生前，我们对该事发生概率的估...
贝叶斯分类
暗时间
09-05 665
前言 在做携程的笔试的时候，考到了利用朴素贝叶斯方法进行情感分析的问题，其实就是一道利用NB进行文本分类的题。所以在这里总结一下贝叶斯的基本知识，以做回顾。 从贝叶斯判定准则讲起 （这里省略一些公式） 贝叶斯判定准则的大意是说，对于一个多分类问题，我们的目的是要找到一个判定准则hhh，使得总体风险最小化（这里的风险是指一个属于i的样本被误分到j类中）。而为使总体风险最小化，...
正态分布下贝叶斯决策的特例（二）
林景的博客
09-18 687
正态分布下贝叶斯决策的特例（二） 前导知识：【正态分布下贝叶斯决策的引入】 本文讨论Σi=Σ\Sigma_i=\SigmaΣi​=Σ时，即：各类协方差矩阵相等但是是非对角矩阵。 从几何上来看，相当于各类样本集中于以该类均值μi\mu_iμi​点为中心的同样大小和形状的超椭球内。 由于Σi=Σ\Sigma_i=\SigmaΣi​=Σ与iii无关，所以判别函数可简化为： gi(x)=−12(x−μi)TΣ−1(x−μi)+ln⁡P(wi)(1) g_i(x)=-\frac{1}{2}(x-\mu_i)^T
【机器学习】贝叶斯决策论小结
ZhangPY的专栏
07-25 2763
贝叶斯决策论是解决模式分类问题的一种基本统计途径。其假设：决策问题可以用概率的形式来描述，并且所有有关的概率结构均已知。现对其进行一下简单的总结。 贝叶斯决策准则 　　按照不同决策标准，会得到不同意义下的最优决策。  　　最小错误率准则  　　最小风险准则  　　最小最大决策准则  　　Neyman-Pearson准则 最小错误率准则 　　若样本x为类别wj的概率为
贝叶斯决策理论在分类器中的应用
"该资源是一份关于基于贝叶斯决策理论的分类器的演示文稿，涵盖了贝叶斯决策的基本概念、最小错误率和最小风险的决策策略、Bayes分类器与判别函数的原理，以及正态分布下的贝叶斯决策应用。" 在模式识别领域，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Mario cai

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值