机器学习系列(13)_SVM碎碎念part1：间隔

最新推荐文章于 2022-10-23 22:40:17 发布
VIP文章 最新推荐文章于 2022-10-23 22:40:17 发布
阅读量1.4w 收藏 55
点赞数 11
分类专栏： 机器学习/数据挖掘 机器学习与数据挖掘 文章标签： 机器学习 svm 算法 支持向量机 最大间隔
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/han_xiaoyang/article/details/52678373
版权

作者：寒小阳
时间：2016年9月。
出处：http://blog.csdn.net/han_xiaoyang/article/details/52678373
声明：版权所有，转载请联系作者并注明出处

1.引言

欠的总归是要还的，SVM这么神圣的算法是每个学习machine learning的同学可能会头痛却又不得不面对的，即使到现在为止博主这样的Math/CS渣都觉得一定没有领悟到SVM精髓，所以整理了一些边边角角的碎碎念，颤颤巍巍放到这个系列里，算是自己做个总结，也希望能对大家有一点点的帮助。这个SVM系列大部分内容来自Alexandre KOWALCZYK大神的SVM Tutorial以及一些简单的个人理解，会尽量放慢步伐，力争把东西交代得更清楚。这一节是第一部分，很简单，我们来认识一下SVM中很重要的一个概念：Margin，也就是间隔。

2.支持向量机（SVM）的目标是什么

SVM的目标是利用训练数据集的间隔最大化找到一个最优分离超平面

首先和

最低0.47元/天 解锁文章
寒小阳
关注
  • 11
    点赞
  • 踩
  • 55
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
SVM_机器学习_手写_SVM_
10-04
手写实现SVM，实现and和or的SVM分类方法
机器学习算法（一）SVM
热门推荐
学习 & 分享 ~
06-02 25万+
支持向量机（support vector machines，SVM）是一种二分类模型，它将实例的特征向量映射为空间中的一些点，SVM 的目的就是想要画出一条线，以 “最好地” 区分这两类点，以至如果以后有了新的点，这条线也能做出很好的分类。SVM 适合中小型数据样本、非线性、高维的分类问题。SVM 最早是由 Vladimir N. Vapnik 和 Alexey Ya. Chervonenkis 在1963年提出，目前的版本（soft margin）是由 Corinna Cortes 和 Vapnik 在1
关于SVM中函数间隔与几何间隔问题总结（SVM系列）
happy_lizz的博客
04-12 1444
1.定义 1.1函数间隔： 1.2 几何间隔： 2.相同的超平面，会产生不同的函数间隔 在优化问题中，由于函数间隔会导致优化函数趋于无穷大，故我们需要找到一个与超平面一一对应的间隔表示方式，即几何间隔，其通过将超平面的法向量的模固定为1，从而使得一个超平面与一个点之间，只有唯一的间隔函数。 3.最优化问题 3.1 在SVM中，最优化问题可以表示为如上所示，记作 形式(a)。 通过带入函数间隔与几何间隔的关系式，可以得到如下形式，记作 形式(b)： 3.2 将函数间隔规定为1 可以
支持向量机（SVM）算法简介
qq_41978896的博客
05-28 389
支持向量机（SVM）算法推导概述推导Hard-Margin SVMSoft-Margin SVM对偶问题总结 概述 支持向量机模型是一种经典的二分类模型（通过额外处理也可以得到多分类模型），可以理解为在特征空间中去寻找一个超平面，这个平面离所分类的特征距离最远。 推导 Hard-Margin SVM 假设有目标二分类别y(1,-1)，它的特征向量为X(x1,x2,x3…xn)，特征与类别之间线性相关。给每个特征赋权重值Wi，WTX大于等于0时y为1，反之为-1。超平面的最大边界我们称为margin，所以可以
【解密Peter机器学习公式】：一步步进行SVM公式推导之间隔
Mr_tianyanxiaobai的博客
05-29 589
看着Peter在《机器学习》中给出的SVM分类公式表示一脸懵逼，便决定了用自己的语言来对这些公式进行一次推导完成实验报告的同时，也算是为了以后如果忘了推导过程，可以马上翻出来看看。正所谓SVM有三宝：间隔，对偶和技巧。那么接下来我会对这三个关键词说说我的理解。 SVM的中心思想 首先来说SVM是怎么进行分类的呢？其实简单的理解话就是划一条线将两个类分开，这条线也就是我需要利用S...
从零到精通SVM之超平面与几间隔问题
sibiantai555的博客
04-18 1280
首先 SVM全称 支持向量机 Support Vector Machines，嗯哼 很难以理解是吧就是一个多维分类的机器而且分类 还是只是两类分类先看看最简单的二维两类分类嗯哼哼 存在好多线可以将他们分开支持向量机的目标就是找找分割中最完美的一条线如何找到最完美的一条线呢可以有点到所有点到线上距离最小即可然后求和扩展 三维的就是一个平面三维以上就是叫做超平面 设n 维空间中的超平面由下面的方程确定...
margins函数--Matplotlib
chongbaikaishi的博客
10-23 1588
改变坐标轴与绘图区域axes的轴(spines)之间的留白大小
ex6-SVM_svmpython_机器学习_python_SVM_
09-30
机器学习中支持向量机的例子，python代码编写，可以帮助很好的理解svm，程序运行无错误。
SVM算法_机器学习_SVM_
10-01
实现线性支持向量机算法，并比较其原始函数与对偶形式函数
SVM案例.rar_9K4_SVM_SVM：Case study_throatr78
07-15
SVM：Case study three cases 希望有用
SVM.zip_svm matlab_机器学习
09-19
支持向量机MATLAB代码，对机器学习有一定的初步说明
SVM（最大间隔）
DracoZws的博客
04-29 1171
SVM（最大间隔） Margin的定义：margin表示的是样本点到超平面的距离中最小的距离 Margin: min(1/||w||*(Wx+b)) 为什么最后会变成1呢？ 我们找最小margin其实是用平行于超平面的两个决策平面进行平移，最小的Margin就可以理解为求解两个决策边界的最小距离，在Wx+b=0上方的值为正（1），下方为负（-1），刚好与样本点一致，这里并不是说本身带入Wx+b的值...
机器学习--SVM
Aaadsda414114的博客
12-17 998
SVM SVM三个重点问题：间隔，对偶，核技巧 核技巧并不是说是和SVM单独绑定到一块就是属于SVM的，而是很早以前就有，就是将原本的X维度的空间映射到更高维度的空间，然后处理线性不可分的情况。 首先SVM的提出是为了解决二分类问题 准确的来说，这有两个类别的数据，有个一超平面可以将他们完美的分开，那么这个超平面的表示应该是wTX+b。 看上图，其实在图中可以将两个类别分开的线有无数条，那么SVM选择的这条有什么优势或者说有什么特点呢？ SVM就是要从这么些若干条可以正确分类的线中，挑选出来
SVM笔记（一）硬间隔SVM
qq_31267769的博客
08-12 2399
什么是SVM？SVM是一种二分类算法，其中SVM三个重要的部分是间隔、对偶、核技巧。SVM的基本模型是定义在原始特征空间上基于最大间隔的线性分类器，Kernal的引入使得SVM变成了非线性分类器。SVM的学习策略就是最大化间隔，后面跟会提到两种间隔：functional margin和geometric margin。可将这个学习问题转换为一个解凸二次规划的问题，SVM就变成了一个解凸二次规划问题的最优化算法。kernal思想同样可以用在其他机器学习算法中。
超平面是什么？——理解超平面（SVM开篇之超平面详解）
dengheCSDN的博客
08-17 9万+
        研究了半天，终于对“超平面”有了个初步了解。         n 维空间中的超平面由下面的方程确定:                                                 其中，w 和 x 都是 n 维列向量，x 为平面上的点，w 为平面上的法向量，决定了超平面的方向，b 是一个实数，代表超平面到原点的距离。且                       ...
机器学习：SVM（目标函数推导：Hard Margin SVM、Soft Margin SVM）
ab1213456的博客
08-03 3940
一、Hard Margin SVM SVM 的思想，最终用数学表达出来，就是在优化一个有条件的目标函数： 此为 Hard Margin SVM，一切的前提都是样本类型线性可分； 　1）思想 SVM 算法的本质就是最大化 margin； margin = 2d，SVM 要最大化 margin，也就是要最大化 d，所以只要找到 d 的表达式，也能解决相应的...
一文详解SVM的Soft-Margin机制
红色石头的专栏
05-10 5358
AI有道一个有良心的公众号Hard-Margin SVM，必须将所有的样本都分类正确才行。这往往需要更多更复杂的特征转换，甚至造成过拟合。本文将介绍一种Soft-Marg...
机器学习——SVM(4 Soft-Margin SVM)
daocaoren_的博客
07-24 979
Soft-Margin 的含义 所谓的Hard-Margin,就是指所有的资料都要完全分开，即separable,这是SVM产生过拟合的原因之一(还有一个原因就是过于复杂的转换 Φ\PhiΦ)。 所以引入Soft-Margin, 即不必让所有的资料都完全分开，让SVM容许一部分的错误分类点的存在，从而在一定程度上减少过拟合，即要在large margin 和错误分类点容忍度（noise toler...
SVM系列（一）geometric margin 的推导问题
更木的博客
03-17 1741
SVM中的geometric margin 的推导过程
逐行解释：opencv_ml_svm: format: 3 svmType: C_SVC kernel: type: INTER gamma: 1. C: 1. term_criteria: { epsilon:1.1920928955078125e-07, iterations:1000 } var_count: 400 class_count: 34 class_labels: !!opencv-matrix rows: 34 cols: 1 dt: i
最新发布
05-12
这是一个用于机器学习的支持向量机模型，使用了OpenCV库中的opencv_ml_svm模块。其中： - format: 3 表示模型使用的是新的XML格式。 - svmType: C_SVC 表示SVM的类型是C_SVC，即分类类型的支持向量机。 - kernel: 表示SVM所使用的核函数，这里使用的是INTER类型的核函数。 - gamma: 1. 表示核函数的参数gamma的值为1.0。 - C: 1. 表示软间隔损失函数的惩罚系数C的值为1.0。 - term_criteria: 表示训练SVM时所使用的终止准则，包括最大迭代次数和精度阈值。 - var_count: 400 表示训练数据的特征数为400。 - class_count: 34 表示分类的类别数为34。 - class_labels: !!opencv-matrix 表示类别标签，这里使用的是OpenCV库中的矩阵格式来表示。其中rows表示矩阵的行数，cols表示矩阵的列数，dt表示矩阵元素的数据类型，这里为整数类型i。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值