SVM推导过程中r=2/||w||怎么理解

已于 2022-03-26 14:03:48 修改
阅读量1.3k 收藏 1
点赞数 1
分类专栏： 深度学习理论 文章标签： 机器学习
于 2020-07-23 12:37:42 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38649386/article/details/107533951
版权

下图为西瓜书SVM示意图：

结合点到直线距离公式可知：

（1）r=2/||w|| 是两个超平面之间的距离。

（2）SVM是要使最大化间隔max 2/||w||,即min 1/2*||w||,等价于最小化||w||^2

KernStarc
关注
专栏目录
对支持向量机的数学推导（个人理解的内容）
WangXin Programmer
03-27 595
支持向量机可谓是机器学习道路上的第一个拦路虎，不仅证明复杂，而且很多入门资源也并不适合新手，本人足足花了半个多月的时间，才对整体的数学推导有了一些掌握，写个博客，加深记忆。文章有什么不好理解的请提交评论。 提前说明 1.下面的截的图里w（带T上标的）跟正文中的w都表示法向量，写法不同而已。 1. 什么是支持向量机        ...
SVM支持向量机超详细数学推导过程
锅巴
04-01 5276
SVM有三宝：间隔、对偶、核技巧（核函数） 三个不同的分类算法：hard-margin SVM、soft-margin SVM、Kenel SVM SVM起初用来解决二分类问题
支持向量机SVM(1)——间隔最大化
CarryLvan的博客
10-29 5691
支持向量机SVM——间隔最大化1.什么是超平面2.为什么要间隔最大化3.如何实现间隔最大化 主要参考西瓜书… 1.什么是超平面 相信了解过逻辑回归的都知道，我们对于n=2（特征为2个，这里只是方便可视化）是通拟合一条曲线，作为决策边界。 那么如果特征n等于3、4 . . . 1000呢？这个时候我们我们就称这个用来分割不同类别的“线”称为超平面（hyperplane），这里的超我理解的就是多维的意...
svm 中的几何间隔
piaomiaoju的专栏
09-28 2307
1.SVM在分类超平面中 求解 数据集最小几何间隔的最大值。 2. SVM中超平面系数缩放，不影响超平面的位置，系数缩放，也不影响几何间隔。 3. 定义>= 1,相当于几何间隔》1/||w||. 当然也可以定义成 >=k,因为这只会影响系数（w,b)缩放，同时需要修改几何间隔 》k/||w||.因此选择只不过是一种方便。 wTx+b
SVM（硬间隔）
weixin_45559441的博客
05-02 598
支持向量机，在深度学习还没出来之前是一个很流行的判别模型，它要解决的问题很简单，如图：![在这里插入图片描述](https://img-blog.csdnimg.cn/20200502074223894.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0c两根 HM6Ly9ibG9nLmNzZ...
关于SVM推导中的1/2*||w||^2的来历
PIPIXIU的博客
09-04 5136
关于SVM推导中的12||w||2 \dfrac{1}{2}||w||^2的来历在SVM理论中，通过假设支持向量处的函数距离y∗(wx∗+b)=1y^*(wx^*+b)=1将目标函数转为求max1||w||max \dfrac{1}{||w||}。 在后续理论中会将上式等效为了12||w||2\dfrac{1}{2}||w||^2，这样做的目的是 利用已有的凸优化理论
为什么SVM最大化几何间隔等同于最小化||w||
lekusun9671的博客
01-07 1247
这个问题困扰了笔者很久，今天终于弄明白了，记录一下，防止遗忘。 背景 SVM是一个二分类模型，目标是找到两个类别的最大间隔超平面。给定一组数据, 其中 公式推导 首先引入两个概念： 函数间隔：所有样本点到超平面wx+b=0的最小距离。由于几何间隔会随着超平面参数的变化而变化，如果w和b同时增大两倍，函数间隔也会增大两倍，这样的话不同超平面的函数间隔无法作比较； 几何间隔：将超平面的参数的模设为1 时的函数间隔，也就是超平面对应的函数间隔。 为了求最大间隔超平面，目标函数定义为： 由于不同
SVM算法（一）预备知识
guofei_fly的博客
10-07 365
SVM（支持向量机）是一种强大的机器学习算法，被广泛用于分类和回归问题。本系列将简要介绍SVM的推导过程和基本应用。考虑到SVM涉及到繁杂的数学推导，第一篇先介绍下前置的数学知识。 一、感知机 感知机是SVM的基础，也蕴含了早期神经网络NN的思想。 感知机是一种用于求解二分类的判别式线性模型，其假设输入数据{(x1,y1),(x2,y2),...(xi,yi)...(xN,yN)}\{(x_1,y...
SVM推导数学过程以及SMO算法数学推导
08-06
对于SVM和SMO算法的理解与应用，实际问题的求解需要考虑如下步骤： 1. 对数据进行预处理，比如特征缩放，以便算法能够更高效地工作。 2. 选择合适的核函数，并确定核函数的参数（如RBF核的 \( \gamma \)）。 3. ...
SVM(支持向量机)原理及数学推导全过程详解
qq_41687938的博客
12-31 1280
由于格式问题，为方便阅读，请点击链接访问原文 点击此处访问原文 关于SVM网上已经有很多很多的前辈有过讲解，这两天自己在网上看了看资料，结合前辈们的文章对SVM进行了一个整理，把看的过程中产生的一些问题也进行了解答。本来想着总结得简洁明了又易懂，但SVM本就有严格的数学理论支撑，不像其他机器学习算法是一个黑箱，写完发现要尽量让小白也懂少不了具体的论述，再加上前辈们也整理的很好，所以啰嗦了很长很长。但也算是很详细了。 一、SVM简介 1. 1 SVM的引入 支持向量机(Support Vector Ma
SVM学习笔记——（一）
路边的石头
02-16 509
超平面理解 C1和C2是要区分的两个类别，在二维平面中它们的样本如上图所示。中间的直线就是一个分类函数，它可以将两类样本完全分开。一般的，如果一个线性函数能够将样本完全正确的分开，就称这些数据是线性可分的，否则称为非线性可分的。 什么叫线性函数呢？在一维空间里就是一个点，在二维空间里就是一条直线，三维空间里就是一个平面，可以如此想象下去，如果不关注空间的维数，这种线性函数还有一个统一的名称——超平...
SVM原理详解
Wisimer
02-28 560
Step 1: 求解支持平面的最大距离 只考虑线性可分的情况，分割超平面一边的数据点所对应的y全是-1 ，另一边所对应的y全是1： 这个超平面可以用分类函数 f(x)=wTx+bf(x)=w^Tx+bf(x)=wTx+b表示，当f(x) 等于0的时候，x便是位于超平面上的点，而f(x)大于0的点对应 y=1 的数据点，f(x)小于0的点对应y=-1的点，如下图所示(虚线间隔边界上的点就是支持向量...
SVM学习总结
MyArrow的专栏
04-27 2万+
1. 目标      SVM是一个二类分类器，它的目标是找到一个超平面，使用两类数据离超平面越远越好，从而对新的数据分类更准确，即此分类器更加健壮。      支持向量（Support Vetor）：就是离分隔超平面最近的哪些点。      寻找最大间隔：就是寻找最大化支持向量到分隔超平面的距离，在此条件下求出分隔超平面。      数据分类类别：      1）线性可分      2
机器学习算法（一）SVM
热门推荐
学习 & 分享 ~
06-02 26万+
支持向量机（support vector machines，SVM）是一种二分类模型，它将实例的特征向量映射为空间中的一些点，SVM 的目的就是想要画出一条线，以 “最好地” 区分这两类点，以至如果以后有了新的点，这条线也能做出很好的分类。SVM 适合中小型数据样本、非线性、高维的分类问题。SVM 最早是由 Vladimir N. Vapnik 和 Alexey Ya. Chervonenkis 在1963年提出，目前的版本（soft margin）是由 Corinna Cortes 和 Vapnik 在1
支持向量机SVM浅析(待补充)
Y_hero的博客
03-14 507
1. 间隔与支持向量  对于用于分类的支持向量机，它是个二分类的分类模型。也就是说，给定一个包含正例和反例（正样本点和负样本点）的样本集合，支持向量机的目的就是基于训练集D在样本空间找到一个划分超平面，将不同类别的样本分开，原则是使正例和反例之间的间隔最大。如下图所示： 在样本空间中，划分超平面可通过如下线性方程来描述： 其中w=(w1;w2;w3;…wn)为法向量，决定了超平面的方向；b为位...
支持向量机（SVM）保姆级入门
qq_52300384的博客
07-25 2157
SVM 拉格朗日乘数法 核函数
SVR为什么要最小化w的模,即为什么是min||w||2
qq_30438779的博客
04-08 550
就是说在SVR回归超平面w'x+m=0两侧的w'x+m=ε、w'x+m=-ε所围成的带状区域内，样本是不计算损失的，只计算没有在这个带状区域内的样本的损失。而且由点到线的距离公式d=|g(x)|/||w||，追求“到超平面最远点的样本的距离最小”不应该最大化w吗，也就是max||w||2。但没想到在学习过程中确实出现了让我疑惑的的地方，就是SVR回归的目标为什么是min||w||2而不是max||w||2,经过演算，写一下我自己的理解。最后，不受x约束的||w||是最小化是min|w'x+m|的关键，
《机器学习实战》之六——支持向量机（一）
潘多拉星系的专栏
01-15 881
SVM目录一、什么是SVM二、将SVM转换为数学问题（一）“决策面”方程（二）“分类间隔”方程（三）SVM优化问题（四）SVM的约束条件三、求解SVM的数学问题（一）拉格朗日（二）对偶问题求解四、求解数学问题——SMO算法参考资料 一、什么是SVM SVM的英文全称为（Support Vector Machines），大家都叫支持向量机。SVM一直被认为是现成可用的效果最好的分类算法之一。 从线性...
SVM理论
heavendai的专栏
11-15 1万+
SVM入门（一）至（三）Refresh 按:之前的文章重新汇编一下,修改了一些错误和不当的说法，一起复习,然后继续SVM之旅. （一）SVM的简介 支持向量机(Support Vector  Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中[10]。 支持向量机方
试证：位于超平面b+wx^T=p中的点x到超平面b+wx^T=0的代数距离为d=p/||w||。
最新发布
06-01
这个问题涉及到机器学习中的支持向量机（SVM）模型，其中超平面的方程为b + wx^T = 0，其中w是法向量，b是偏置项，x是输入向量。根据代数几何的知识，两个超平面的代数距离可以表示为其中一个超平面的任意一点到另一个超平面的距离。因此，我们可以将问题转化为求点x到超平面b + wx^T = 0的代数距离。 设超平面b + wx^T = p，则点x到该超平面的距离为： d = |(b+wx^T)/||w||| 由于超平面b + wx^T = p与b + wx^T = 0平行，则它们的法向量相同，即w。因此，我们可以将b + wx^T = p移项得到： wx^T = (p-b) 将其带入上式，可得： d = |(p-b)/||w||| 因此，位于超平面b + wx^T = p中的点x到超平面b + wx^T = 0的代数距离为d=p/||w||。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值