【学习笔记】《模式识别》4：贝叶斯判别准则

最新推荐文章于 2024-07-02 22:43:29 发布
最新推荐文章于 2024-07-02 22:43:29 发布
阅读量2.8k 收藏 52
点赞数 7
分类专栏： 模式识别 文章标签： 学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43894455/article/details/127856634
版权

贝叶斯判别准则

文章目录

一、研究对象及相关概率

1. 两类研究对象

获取模式的观察值时，有两种情况：

  • 确定性事件：事物间有确定的因果关系；
  • 随机事件：事物间没有确定的因果关系，观察到的特征具有统计特性，是一个随机向量。只能利用模式集的统计特性进行分类，使分类器发生分类错误的概率最小。

2.概率

在这里插入图片描述

3. 条件概率

在这里插入图片描述

4. 模式识别中的三个概率

在这里插入图片描述

5. 两对条件概率的区别

在这里插入图片描述

二、贝叶斯决策

1.最小错误率贝叶斯决策

（1） 采用后验概率P(ωi| X)能确定X属于哪一类；

在这里插入图片描述

在这里插入图片描述

2. 最小风险贝叶斯决策

（1）风险

不同的错判造成的损失不同，因此风险不同。考虑到对某一类的错判要比对另一类的错判更为关键，把最小错误率的贝叶斯决策做了修改，提出了条件平均风险的概念。

（2）基本思想

以各种错误分类所造成的平均风险最小为准则，进行分类决策。

在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述

3. (0-1)损失最小风险贝叶斯决策

在这里插入图片描述
在这里插入图片描述

4.正态分布模式的贝叶斯决策

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

计算题总结
对应例题4.3，很复杂！

三、贝叶斯分类器的错误概率

Schanappi
关注
专栏目录
贝叶斯判别分析的基本步骤_贝叶斯统计的基础思想（无公式推导）
weixin_42358733的博客
01-17 7635
贝叶斯统计的由来发现贝叶斯逆概率的人当然就叫贝叶斯了，这哥们全名叫托马斯-贝叶斯，英国猛汉，生于1702年，跪于1761年。贝叶斯曾在苏格兰的爱丁堡大学学习神学和数学。后来，他子承父业成为了一名牧师，并在业余时间研究数学。贝叶斯和牛顿是同一个时代的人，在17、18世纪，有很多人都是一边做着牧师的职业，一边进行科学方面的研究，其中也有相当一部分人在研究数学。贝叶斯这辈子就写过一篇数学论文，题目叫《关...
模式识别学习笔记（11）——线性判别函数
Carol__Deng的博客
01-16 3943
线性判别函数 1.1 用于分类的判别函数的参数形式已知，直接从样本来估计判别函数的参数。 优势：不需要有关概率密度函数的确切的参数形式。因此，属于无参数估计。 利用样本直接设计分类器 1、方法分类： 线性判别函数、支持向量机、fisher线性判别函数 广义线性判别函数、非线性判别函数、核学习机 2、基本思想： -步一：给定一个判别函数，且已知该函数的参数形式 -步二：采
最小风险 最小错误 贝叶斯决策 Bayes(实例详解)
热门推荐
Braylon的博客
03-13 2万+
文章目录简介最小错误率Bayes例子分析最小风险的Bayes决策最小风险Bayes决策规则：例子 简介 贝叶斯决策其实是已经被很多博客解释的非常详细了，为了不制造学术垃圾，本来一直没打算写一篇关于Bayes的blog，但是我也是最近才看到这两个概念，唉，都怪自己掌握的还是不够到位。 所以这次我会详细的分享有关最小错误、最小风险的Bayes决策，然后当然如果你还没有了解什么是贝叶斯决策的话，还是应该...
正态分布模式下的贝叶斯分类
12-20
用MatLab编写的正态分布模式下的贝叶斯分类器。很多模式识别的课设就有相关题目。不仅有样本分类而且会在二维坐标系下画出，正确分类与错误分类的点都会有不同的标志。
【模式识别原理】第4章 基于统计的概率分类法，最小风险贝叶斯决策，最小错误率贝叶斯决策（上海理工大学）
最新发布
persona5joker的博客
07-02 932
基于统计决策的概率分类法，有最小错误率的贝叶斯决策，最小风险贝叶斯决策和正态分布的最小错误率贝叶斯决策
从贝叶斯公式到贝叶斯判别准则
To_be_thinking的博客
07-26 9802
原来线性判别分析、平方判别分析、朴素贝叶斯这么简单直白。 前方将出现大量数学公式推导证明，为防止烦躁不适，先复习一下几个重要概念。 1.1一维高斯变量X~N(μ,),则概率密度函数                                             1.2多维高斯变量 ，X~N(μ,∑) , μ 为p维向量， 为 维的方差协方差矩阵：                 ...
【模式识别与机器学习】——2.1贝叶斯判别法
weixin_30555125的博客
09-17 589
一.作为统计判别问题的模式分类 　　模式识别的目的就是要确定某一个给定的模式样本属于哪一类。 可以通过对被识别对象的多次观察和测量，构成特征向量，并将其作为某一个判决规则的输入，按此规则来对样本进行分类。在获取模式的观测值时，有些事物具有确定的因果关系，即在一定的条件下，它必然会发生或必然不发生。但在现实世界中，由许多客观现象的发生，就每一次观察和测量来说，即使在基本条件保持不变的情况下也具有不...
贝叶斯判别
qq_36376664的博客
09-07 3966
本文以'地震预测'为例对两类模式贝叶斯判定原则进行知识梳理。 两类模式集的分类目的：要确定x是属于ω1类还是ω2类，要看x是来自于ω1类的概率大还是来自ω2类的概率大。
论文笔记自用： 从训练数据集和测试实例学习贝叶斯网络分类器的判别结构
weixin_45486448的博客
11-28 1767
数据集：WBC数据集（威斯康星洲乳腺癌数据库） 相关概念 MI ：mutual information 交互信息 CMI ：conditional mutual information 条件交互信息：用来度量属性Xi和Xj与类变量C之间的条件依赖关系： LMI： CLMI ： BNC: Bayesian network classifier 贝叶斯网络分类器 UKDB: unrestricted k-dependence Bayesian classifier 无限制k相关贝叶斯分类器 领域知识 ：它
机器学习笔记 贝叶斯分类器（附Python与R代码）
DataAnalysts的博客
02-12 2836
朴素贝叶斯算法 原理：通过某对象的先验概率，利用贝叶斯公式计算出后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。 主要特点： 属性可以离散，也可以连续； 数学基础扎实，分类效率稳定； 对缺失和噪声数据不太敏感； 属性如果不相关，分类效果很好；如果相关，则不低于决策树。 学习模型：计算对象归属于某一类的后验概率，以此最大概率的类作为对象所属类。即待学习的是对象的后...
机器学习之朴素贝叶斯学习笔记
sophiezjz的博客
05-11 706
朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。 一、朴素贝叶斯法理论知识 1.    朴素贝叶斯法的学习与分类 1.1基本方法： ①先验概率分布    ②条件概率分布    ③条件独立性假设   条件独立假设是说用于分类的特...
最小错误率贝叶斯决策
09-09
最小错误率贝叶斯决策和最小风险贝叶斯决策matlab代码，贝叶斯决策理论方法，是统计模式识别中的一个基本方法。贝叶斯决策判据，既考虑了各类参考总体出现的概率大小，又考虑了因误判造成的损失大小，判别能力强。
基于最小错误率的贝叶斯决策
11-25
MATLAB源代码，其中一个是虹膜数据；
模式识别matlab实例：最小错误率、最小风险贝叶斯决策
04-14
模式识别实例：包括最小错误率、最小风险贝叶斯决策matlab代码，注释清楚丰富。
MATLAB最小错误率贝叶斯决策
01-17
计算男女身高,非常强大的matlab编程实现贝叶斯程序，可直接使用，模式识别
MATLAB代码最小错误率贝叶斯决策
06-28
自己编写的，很实用的基于最小错误率的贝叶斯决策！
模式识别与机器学习（第一章）学习笔记
weixin_39505845的博客
12-15 1911
1.绪论 模式识别领域关注的是利用计算机算法自动发现数据中规律，以及使用这些规律将数据分类。利用机器学习进行模式识别更精确，具体步骤为：选定训练集，包括输入的向量X（可能是对原始向量进行过预处理的，比如特征抽取）和输出的目标向量t，用于调节模型参数,最终模型输出向量为y(x),机器学习的目标是利用某种标准度量使得y(x)的值越在该标准度量（度量一般都与t有关）下达到最优，如最小化y(x)与t
模式识别学习笔记——第2章 统计学习方法-2.2最小错误率贝叶斯决策
HS_Jack_ZZZ的博客
07-29 2898
可以看到，左边的黄线代表的是在晴天条件下降雨概率的分布；这两条线分表代表的含义仅仅是，在不同天气条件下降雨量的关系。表示观察到的状态为阴天。我们通过过往的天气预报可以统计在一年内，晴天的降雨量和阴天的降雨量，再经过计算得到它们的概率。特征下是晴天的概率，反之则是阴天的概率。最小风险决策的分界线是途中的蓝色虚线。为了更加直观的理解这一过程，用实例和图像来解释这一过程。从最小错误率出发，利用概率论中的贝叶斯公式，得出使错误率最小的分类决策。中但属于晴天的概率就是错误的概率。的维度为1，即将特征写成标量的形式。.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值