- 博客(10)
- 收藏
- 关注
RSS订阅原创 模式识别中的最优分类超平面与线性支持向量机
模式识别的学习笔记，最优分类超平面和线性支持向量机。其中包含利用拉格朗日对偶问题求解最优超平面，以及如何将原问题转为对偶问题，求决策边界和什么是支持向量。在线性可分的情况下，我们讨论了[感知器](https://blog.csdn.net/HS_Jack_ZZZ/article/details/126363102?spm=1001.2014.3001.5502)的用法，可以发现在解区间有无限多的解向量。在感知器方法中，我们用梯度下降法求解一个解向量。不同的初始值和迭代参数就会得到不同的解。......
2022-08-29 22:30:49
2162
1
原创 模式识别中的感知器
由经验得到，式（11）这种由所有未正确分类样本一起修正的方法效率并不高。与式（11）不同的是，这种方法是逐一向未正确分类的样本方向上进行修正迭代权向量。但是有一个问题就是在黄线和蓝线上的样本是分类正确的还是分类错误的呢？需要注意的是，新的解空间由深黄线和深蓝线围成，注意这里的线不是向量了！这个式子的含义是：下一时刻的权向量是把当前时刻的权向量向目标函数的副梯度方向调整一个修正量步长。都不能被正确分类，在它们的和方向上进行修正，为一次迭代的结果。中，我们把线性分类器的设计分为两步：一是确定最优的投影方向。..
2022-08-16 11:55:26
414
原创 模式识别学习笔记——第2章 统计学习方法-2.5 正态分布时的统计决策
要学习正态分布有关的统计决策，正态分布相关的知识肯定是必不可少的！！！对于大多数同学来说，一维的正态分布应该是没什么问题，但是一旦涉及多维的正态分布，立刻就傻眼了。书本上对正态分布和性质的回顾，只能说懂的懂，不懂的还是不懂。当初学这一部分的时候，对多维正态分布很多知识点都不理解，参考了很多书籍和网上的资料。在这里，我强推和两篇文章。第一篇很详细的讲解了协方差矩阵相关证明和性质；第二篇也是很系统的讲解了多维的正态分布。上述几个性质在我推荐的文章中都有证明！.........
2022-08-08 21:47:48
972
1
原创 C++：类的静态成员详解
我们既可以在类的内部也可以在类的外部定义静态成员函数。当在类的外部定义静态成员时，不能重复static关键字，该关键字只出现在类内部的声明语句。细节静态数据成员不属于类的任何一个对象，所以它们并不是在创建类的对象时被定义的。这意味着它们不是由类的构造函数初始化的。而且一般来说，我们不能在类的内部初始化静态成员。所以，必须在类的外部定义和初始化每个静态成员。一个静态成员只能被定义一次。静态数据成员定义在任何函数之外，因此一旦它被定义，就被一直存在于程序的整个生命周期中。func1();...
2022-08-01 20:13:16
650
原创 模式识别学习笔记——第2章—2.4 两类错误率、Neyman-Pearson决策与ROC曲线
举个医院的例子癌症早期不易被检查出来，但却是治疗癌症的最佳时期，因此应要求尽量把所有的阳性检测出来，所以应确保真阳性率尽可能高，即灵敏度达到99.9%（第二类错误率、假阴性率为0.1%），在次前提下再追求误将把无病诊断为有病的概率，即第一类错误率低、真阴性率（特异度）高。这里，真阳性（TruePositive，简记TP，后同）和真阴性是正确的分类，错误分类则是假阳性和假阴性两种情况。相应的就只有两种错误率分别是假阳性率（假阳性样本占总阳性样本的比例）、假阴性样本（假阴性样本占总阴性样本的比例）.......
2022-08-01 12:42:13
2109
4
原创 模式识别学习笔记——第2章 统计学习方法—2.3最小风险贝叶斯决策
决策表是需要人为确定的，决策表不同会导致决策结果的不同。因此，在实际应用中，需要认真分析所研究问题的内在特点和分类的目的，与应用领域的专家共同设计出适当的决策表，才能保证模式识别发挥有效作用。根据场合的不同，我们的决策可能不仅仅是错误率，还有可能是决策错误带来的风险。所谓最小风险贝叶斯决策，就是考虑各种错误造成损失不同时的一种最优决策。有了上面这张图就会好理解很多，这张图的样本是一个一维的x，这样比较好理解。值得注意的是，状态空间和决策空间不一定是一一对应的，即不一定有k=c。称作平均风险或期望风险。...
2022-07-30 11:09:14
2724
原创 模式识别学习笔记——第2章 统计学习方法-2.2最小错误率贝叶斯决策
可以看到，左边的黄线代表的是在晴天条件下降雨概率的分布；这两条线分表代表的含义仅仅是，在不同天气条件下降雨量的关系。表示观察到的状态为阴天。我们通过过往的天气预报可以统计在一年内，晴天的降雨量和阴天的降雨量，再经过计算得到它们的概率。特征下是晴天的概率，反之则是阴天的概率。最小风险决策的分界线是途中的蓝色虚线。为了更加直观的理解这一过程，用实例和图像来解释这一过程。从最小错误率出发，利用概率论中的贝叶斯公式，得出使错误率最小的分类决策。中但属于晴天的概率就是错误的概率。的维度为1，即将特征写成标量的形式。.
2022-07-29 11:59:48
2824
原创 模式识别学习笔记——第2章 统计学习方法—2.1引言
这个式子我第一次看有点不理解，这里在多解释一下。举个例子，在只有两种类型的问题（（当然，如果有好好学习概率论，这里应该不难理解了）错误率定义为所有服从同样分布的独立样本上错误概率的期望，即。做出的决策不一定都是正确的，对于只有两钟类型的问题（表示各类中样本的分布密度，即类条件密度。的函数，为了求得整体的错误率，需要对。我们所做的决策就是对于某个未知样本。有错误率，反之便是正确率，通常记作。是由d维实数特征组成的，即。要研究的类别有c个，记作。这个类别的条件下，出现特征。出现的情况下，是类别。...
2022-07-28 09:55:38
289
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人