深度学习—SVM原理和案例

最新推荐文章于 2024-06-21 11:05:19 发布
最新推荐文章于 2024-06-21 11:05:19 发布
阅读量206 收藏 2
点赞数
文章标签： 支持向量机 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_59332194/article/details/126443354
版权

SVM和KNN分类的对比

KNN

KNN分类问题，离哪些点较近，就归哪一类。

 SVM

SVM分类问题，找决策边界，把数据进行划分开。

SVM分类的原理

支持向量积

将两组数据划分开,选出好的决策边界
步骤：
        支持向量
        寻找支持向量
        选出最好的决策边界

注： 支持向量要小的，要考虑离自己最近的雷才最安全。
        决策边界要大的，要最宽的道路才能行动的更快，更不容易踩雷。
        先找支持向量，再找决策边界
距离与数据定义：
        在平面上构造了直线
        点到平面的距离公式，借助了向量和法向量进行相关求解。

1.距离计算（点到平面的距离）

  点现在知道了，但面其实是不知道的，需要进行假设。（用到了向量和法向量的知识）

 

2.目标函数

 

3.部分数学原理

拉格朗日乘子法

简化最终目标函数
 

例子
 


4.软间隔优化

 

5.核函数（分类好的关键）

升维，二位的变成三维的，可能能够很好的用平面分开。

升维效果展示
 

映射到高维，可能更好看出来不同，但确实计算量增大了很多。
 

高斯核函数
 

SVM鸢尾花案例

SVM鸢尾花分类20210512 - 飞桨AI Studio (baidu.com)

加载相关包

加载数据、切分数据集 

 

构建SVM分类器，训练函数 

初始化分类器实例，训练模型 

展示训练结果及验证结果 

 

 

 

小小程序猿scz
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【深度学习】SVM解决线性不可分情况（八）
florrie
03-19 5096
文章目录线性不可分情况思路一：引入松弛变量和惩罚因子思路二：使用核函数 这篇文章是上一篇文章（七）的补充版，因为（七）的内容太长了，一下子全部看完会搞混，所以分开写了。 线性不可分情况 在介绍SMO算法之前，我还需要插入一小段，来介绍线性不可分的情况。在上面，我们提到了SVM是用来解决二元线性分类问题，也就是通过SVM总能找到一个超平面严格地将数据分成两类，那么对于线性不可分（非线性），不能找...
深度学习之SVM
zhangshaozhong__的博客
08-22 1915
SupportVectorMachine (SVM) 是一个监督学习算法，既可以用于分类（主要）也可以用于回归问题。SVM算法中，我们将数据绘制在n维空间中（n代表数据的特征数），然后查找可以将数据分成两类的超平面。支持向量指的是观察的样本在n为空间中的坐标，SVM是将样本分成两类的最佳超平面。KNN算法是物以类聚，人以群分，身旁哪个种类最多就把预测的样本归为哪一类，基本原理就是找到距离最近的K个元素，然后将这K个元素进行排列，哪个种类多，就将样本进行归类。
SVM（支持向量机）案例&项目源码深度解析
最新发布
master_chenchen的博客
06-21 596
支持向量机是一种基于统计学习理论的监督学习模型，主要用于分类和回归分析。它通过在特征空间中构建一个最优分割超平面，使得不同类别的样本尽可能被准确分类，同时最大化各类样本到该超平面的边际距离。SVM以其独特的理论基础和强大的分类能力，在众多领域展现出广泛应用价值。通过本文的案例解析与源码实践，我们不仅掌握了SVM的基本原理与应用技巧，还探讨了优化策略，为解决实际问题提供了有效工具箱。未来，随着计算能力的增强和算法的进一步优化，SVM及其变体有望在更多新兴领域绽放光彩，持续推动信息化技术的发展进步。
深度学习——SVM
m0_64002592的博客
08-20 1536
比如下图中两条虚线构成的带状区域就是 margin，虚线是由距离中央实线最近的两个点所确定出来的（也就是由支持向量决定）。对于线性可分的数据集来说，这样的超平面有无穷多个(即感知机)，但是几何间隔最大的分离超平面却是唯一的。所以在原有目标的基础之上，我们也尽可能的让ξ的总量也尽可能地小。比较好的划分超平面，样本局部扰动时对它的影响最小、产生的分类结果最鲁棒、对未见示例的泛化能力最强。其中的C是用于控制“最大化间隔”和“保证大部分的点的函数间隔都小于1”这两个目标的权重。为样本的中的一个点，其中。
机器学习之深入理解SVM
喜欢打酱油的老鸟
10-05 732
在浏览本篇博客之前，最好先查看一下我写的另一篇文章机器学习之初识SVM（点击可查阅哦），这样可以更好地为了结以下内容做铺垫！ 支持向量机学习方法包括构建由简至繁的模型：线性可分支持向量机、线性支持向量机及非线性支持向量机。当训练数据线性可分时，通过硬间隔最大化，学习一个线性的分类器，即线性可分支持向量机，又称为硬间隔支持向量机；当训练数据近似线性可分时，通过软间隔最大化，也学习一个线性的分类器...
深度学习理论——SVM（支持向量机）
Miss_yuki的博客
06-26 1847
大家好，今天学习了SVM相关知识，真的很难，看了很久，依旧手推公式，总结出来，希望能帮到大家。SVM是一种二分类模型，在特征空间中寻求间隔最大化的分离超平面。具体推导如图：对了我发现前面那个y为什么取1不影响忘记说了。。。手打公式不方便，简言之就是就算公式里有y也不影响结果，因为是对w和b求偏导。有不懂得欢迎问我，我们下期见。...
《机器学习》基于SVM的行为识别案例解析.zip
03-30
2. SVM原理 SVM的核心思想是找到最大间隔的超平面，使得两类样本点到该超平面的距离最大化。通过核函数的引入，SVM可以解决非线性可分问题，将数据映射到高维空间，使原本不可分的数据变得可分。 3. 行为识别概述 ...
yolov5做的深度学习车牌识别系统，包括车牌颜色识别和车牌号识别
03-14
总结来说，基于YOLOv5的车牌识别系统通过深度学习技术实现了车牌的快速准确检测，再配合颜色分类器和OCR模型，完成了对车牌颜色和号码的识别。这种系统在交通监控、智能停车等领域有着广泛的应用前景，是人工智能在...
MATLAB 深度学习 .rar
09-17
MATLAB是一种广泛应用于科学计算、数据分析和工程应用的编程环境，而深度学习是人工智能领域的一个重要分支，通过模拟人脑神经网络的工作原理来处理和学习数据。 在描述中提到的“计算机视觉与深度学习 book+code”...
SigAI系列的机器学习和深度学习总结好文
03-17
SigAI系列的文章集合是针对机器学习和深度学习的宝贵资源，涵盖了从基础知识到高级理论的广泛内容。这个系列旨在帮助初学者以及寻找人工智能领域工作的专业人士深入理解这两个关键领域。 首先，机器学习是人工智能...
SVM1.rar_人工智能/神经网络/深度学习_matlab_
08-11
**支持向量机（Support Vector Machine，SVM）在人脸识别中的应用** 支持向量机是一种监督学习...同时，通过学习和实践该案例，你不仅可以掌握SVM的基本原理，还能进一步提升在MATLAB中进行机器学习项目开发的能力。
opencv SVM图像分类工程文件
07-30
这是opencv svm图像分类的整个工程代码，在VS2010下打开即可。整个工程文件以及我的所有训练的图片存放在这里，需要的可以下载，自己在找训练图片写代码花了很多时间，下载完后自行解压，训练图片和测试图片可以从这免费下载http://download.csdn.net/detail/always2015/8944959，project data文件夹直接放在D盘就行，里面存放训练的图片和待测试图片，以及训练过程中生成的中间文件，现在这个下载object_classfication_end则是工程文件，我用的是vs2010打开即可，下面工程里有几个要注意的地方： 1、在这个模块中使用到了c++的boost库，但是在这里有一个版本的限制。这个模块的代码只能在boost版本1.46以上使用，这个版本以下的就不能用了，直接运行就会出错，这是最需要注意的。因为在1.46版本以上中对比CsSVM这个类一些成员函数做了一些私有化的修改，所以在使用该类初始化对象时候需要注意。 2、我的模块所使用到的函数和产生的中间结果都是在一个categorizer类中声明的，由于不同的执行阶段中间结果有很多个，例如：训练图片聚类后所得到单词表矩阵，svm分类器的训练的结果等，中间结果的产生是相当耗时的，所以在刚开始就考虑到第一次运行时候把他以文件XML的格式保存下来，下次使用到的时候在读取。将一个矩阵存入文本的时候可以直接用输出流的方式将一个矩阵存入，但是读取时候如果用输入流直接一个矩阵变量的形式读取，那就肯定报错，因为输入流不支持直接对矩阵的操作，所以这时候只能对矩阵的元素一个一个进行读取了。 3、在测试的时候，如果输入的图片太小，或者全为黑色，当经过特征提取和单词构造完成使用svm进行分类时候会出现错误。经过调试代码，发现上述图片在生成该图片的单词的时候所得到的单词矩阵会是一个空矩阵，即该矩阵的行列数都为0，所以在使用svm分类器时候就出错。所以在使用每个输入图片的单词矩阵的时候先做一个判断，如果该矩阵行列数都为0，那么该图片直接跳过。
梅科尔工作室-深度学习-SVM
qq_59744114的博客
08-20 1103
SVM（support vector machine）算法，即支持向量机算法，与knn算法同为分类算法，在深度学习出来之前，它以极大的优势（可以将数据升维，松弛变量等）在机器学习分类算法领域占很重要的地位。svm是一种二分法，将数据通过决策边界分为两类，当利用的是非线性核时，决策边界为非线性超曲面，而不是原始特征空间中的超平面。这个分类的边界形状由核决定。而我们的目的是找到一条“线”，使得离它最近的数据离它最远。为什么要是离它最近呢？
深度学习基础（三）--SVM
向前方，莫转角
09-29 601
总结一下今天的学习过程 今天可以说是不充实，荒废的好多时间 1，今天干一些无关学习的事，这里就不多说了 2，中午和下午就感觉比较坑了，以前安装工具都是百度，这好不容易感觉上道了，说是看个文档吧，结果还安装错了，还是走了好多弯路       本意是在Anaconda3中安装numpy以及pylab，按照着Anaconda3中自带的Python3.6.1documentaction这个文档安装
Deep Learning using Linear Support Vector Machines基于SVM的深度学习论文解析
weixin_51441536的博客
07-10 2497
本篇论文主要介绍的是支持向量机（SVM）在全连接卷积神经网络（CNN）里的应用。主要进行的优化就是把softmax算法更换为SVM算法。其中SVM使用的模型为2l-SVM。输入层（input layer)卷积层（convolution layer)池化层（pooling layer)分类输出层（全连接层+Softmax layer)前三个步骤为特征提取，最后一个步骤为分类。重要的是最后一个步骤在下面的详细解说。以下介绍只介绍大概过程，计算方法有多种。（文中没有讲具体计算过程）输入层（input layer)
梅科尔工作室-深度学习第四讲 SVM算法
ayaxx1314的博客
08-20 539
本文记录梅科尔工作室深度学习培训的第四讲SVM算法的学习笔记，感谢来恩哥的讲解！
【深度学习】全面理解支持向量机SVM（七）
florrie
03-15 1437
文章目录1.初探-SVM概念2.线性分类器3.最大间隔4.如何求最优分类4.1线性可分-线性不可分类型4.2核函数4.3原始问题的对偶转化4.3.1使用KKT条件 终于到了梳理支持向量机(SVM) 这个大知识点了，好鸡冻！！！因为理解SVM牵涉的内容实在是太多了：分类函数，最大化分类间隔，凸二次规划，拉格朗日乘数法、原始问题与对偶问题的转换，KKT条件，SMO算法等等。。。这些内容其实可归为最优...
深度学习第四课——SVM（支持向量机）
weixin_51943818的博客
08-24 3337
支持向量机（support vector machines, SVM）也是一种分类模型，与KNN类似，两者都是比较经典的机器学习分类算法，KNN是通过选取目标点的临近值判断目标点的值，而SVM则是通过划分区域，从而判断目标点属于哪部分。SVM算法较KNN更复杂，但是能适应更多种情况，在处理大量数据时，进行运算比KNN算法少，更有效，而当数据量小时，用KNN更简便。
深度学习-支持向量机（SVM）
weixin_40826634的博客
12-06 1746
深度学习-支持向量机（SVM）
深度学习案例研究：回归分析在预测与评估中的应用
"该资源是一份关于机器学习算法和深度学习的英文PPT教程，涵盖了多个主题，包括BP神经网络、CNN卷积神经网络、DNN深度学习技巧、Regression回归的案例研究、RNN神经网络训练、SVM支持向量机、无监督学习等。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值