![](https://img-blog.csdnimg.cn/20210713145904844.jpg?x-oss-process=image/resize,m_fixed,h_224,w_224)
模式识别
结合锡耶纳大学人工智能课程和西电模式识别课程总结
Mario cai
萌新一个
展开
-
人工智能(模式识别)学习笔记:目录
人工智能学习笔记1:多元高斯分布简单介绍多元高斯分布的形状及特性人工智能学习笔记2:贝叶斯决策理论part1介绍贝叶斯决策:决策准则(最小错误率准则、最小风险准则、neyman、最小最大决策准则)通过这些准则建立判别函数,构建决策面。判别函数中用到多元高斯分布人工智能学习笔记3:贝叶斯决策理论part 2参数估计:ML(最大化似然函数实现)似然函数(高斯分布参数下观测到样本集x的概率密度)似然函数求解还是使用梯度,所以条件必须连续可导。人工智能学习笔记4:贝叶斯...原创 2021-07-01 17:11:11 · 1263 阅读 · 0 评论 -
人工智能学习笔记1:多元高斯分布
我们先回顾单变量正态分布密度函数:单变量高斯分布原创 2021-05-25 16:03:54 · 284 阅读 · 0 评论 -
人工智能学习笔记2:贝叶斯决策理论part1(BAYES基本准则、决策面、分类器)
贝叶斯决策必须符合的要求模式识别基础概念:特征空间、特征向量、类型空间,最小错误率准则例子最小风险准则最小风险贝叶斯决策: 考虑各种错误造成损失不同而提出的一种决策规则。MR最小风险概率估计举个例子看看这两个准则在实际中的应用因为无法将其判断所以我们需要引入第三个准则根据似然数比:先验未知无法MAR,损失未知无法MRNeyman-Pearson 准则假定先验概率是一个确定的值 ,此时判定结果会受到先验概率的影响 。最小最大决策准则: 在最差的条件下 争原创 2021-05-25 16:06:58 · 1333 阅读 · 0 评论 -
人工智能学习笔记3:贝叶斯决策理论part 2(最大似然数估计ML)
上一部分讲了贝叶斯决策的基本概念和使用它来做分类器(判别函数、决策面)接下来引入最大似然估计和贝叶斯参数估计每个样本集中的样本都是所谓 独立 同分布的随机变量【任何时刻的取值都为随机变量,如果这些随机变量服从同一分布,并且互相独立,那么这些随机变量是独立同分布。】,且有充分 的训练样本类的条件概率密度估计(非常难),可分为这两类说到那么难的一个问题,所以我们本章的重点就是:试试用最大似然数估计解决这个问题初始化一下条件单个参数ML估计介绍一下那个未知参数的含义要解决的问题:原创 2021-05-25 16:09:39 · 263 阅读 · 0 评论 -
人工智能学习笔记4:贝叶斯决策理论part 3(贝叶斯估计)
贝叶斯估计与最大似然数估计的不同结论原创 2021-06-20 16:45:34 · 149 阅读 · 0 评论 -
人工智能学习笔记5:非参数估计(parzen窗方法、KM近邻算法)
非参数估计得目的下面介绍三种实例第一:利用可用数据估计先验概率分布第二:直接估计后验概率分布第三:特征空间投影降维度我们先表诉一下PDF与概率P的关系:P:概率x:通用符号这样看来,我们想估计出P,我们就必须估计出PDF假设我们收集了n个数据的随机样本 x1…xn(独立同分布)n个数据中的k个在R中,我们的估计就可以写成接下来:如果pdf连续且变化不大在区域R中:就有这个(V是R的体积)联立一下上述两个公式,我们可以得到这个这个是我们设想的情况:实际情况为了获取原创 2021-05-25 16:11:01 · 1376 阅读 · 0 评论 -
人工智能学习笔记6:人工神经网络(活起来的脑细胞)
ANN最简单的ANN:三层感知器看看几类常见的激活函数加入高斯核函数可以激活成多维的如何让神经网络活起来如何让这条活得神经网络学习起来学习起来我们必须要有训练集:好比人类需要看书才能学习一样根据训练集的不同,我们可以将学习方式分别为总结多层感知机有这几块构成:有一种特殊情况神经网络监督学习(BP算法)...原创 2021-05-29 17:26:34 · 135 阅读 · 0 评论 -
人工智能学习笔记7:张量求导、反向传播
张量求导、反向传播基础知识链式法则与求偏导多个求偏导一个完整的传播(已经完成了一次完整的正向传播就可以得到这个)反向传播(求偏导)详情原创 2021-05-31 09:31:00 · 467 阅读 · 0 评论 -
人工智能学习笔记8:BP算法的实用技术、神经网络在参数估计上的应用、径向基神经网络
BP算法的实用技术原创 2021-05-29 17:31:52 · 189 阅读 · 0 评论 -
人工智能学习笔记9:无监督学习与聚类
无监督学习与监督学习的差别一般公司都是招聘数据标注员人工标注为什么要学无监督学习?第一类:基于概率密度函数估计的方法非监督参数估计我们有一个没有标标签的数据集许多PDF构成这个模型我们对这个模型使用最大似然数估计试试看涉及混合高斯分布,我们使用EM算法(不要慌)我在下面写了中文这种情况,主轴方向不变,参数只与中心变量µ 有关妈耶!英文看起来太累,试一试中文的解释西电EM算法课程最终结果我写出来在这里:欧氏距离:马氏距离有了两个距离我原创 2021-06-01 14:24:53 · 250 阅读 · 0 评论 -
人工智能学习笔记10:层次聚类、CNN竞技神经网络
CNN完成聚类原创 2021-06-03 14:38:04 · 653 阅读 · 0 评论 -
人工智能学习笔记11:Parzen 窗神经网络
Parzen 窗算法(复习)PNN第一步(归一化)第二步(构建判别函数)原创 2021-06-07 13:38:01 · 162 阅读 · 0 评论