支持向量机SVM

于 2024-10-08 21:51:15 发布
阅读量372 收藏 3
点赞数 3
分类专栏： 机器学习算法 文章标签： 支持向量机 算法 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46713695/article/details/142769858
版权

目录

1 SVM直觉理解

通过一条直线将两类数据分开，并且当有新的数据加入时，通过该条直线就能判别其属于哪一类
在这里插入图片描述
在这里插入图片描述
为了区分两类数据，N为数据的样本数，M为维度数，如何设计一个维度为M-1的超平面，将两类数据分割开，
在这里插入图片描述
W可以理解为X对应的权重，
下面以2维空间为例，找到那条分割线
在这里插入图片描述
在这里插入图片描述
缓冲区足够大，可信度就足够高了。
在这里插入图片描述
在这里插入图片描述
寻找最佳决策边界的问题，可以转化为求解两类数据最大间隔问题，而间隔的正中央，就是我们的决策边界。当有新数据需要判断时，计算它与决策边界的相对位置，就可以分类了。

在这里插入图片描述
上图中 1 和 -1 就是对应的正负超平面。最终只需要求解W、B，得到下面3个超平面方程式。

在这里插入图片描述

2. 软硬间隔

当有异常值的时候
在这里插入图片描述
在这里插入图片描述
同时考虑收入和成本因素，去最大化我们的利润。这个最优解下形成的间隔，我们称之为软间隔
在这里插入图片描述
在间隔距离和错误大小之间找到一个平衡。
硬间隔
在这里插入图片描述

3. 升维转换及核技巧入门

升维度，然后进行分类
在这里插入图片描述
核技巧
在这里插入图片描述

参考资料

[1] 支持向量机SVM是什么，八分钟直觉理解其本质 2022.1；

赵孝正
关注
专栏目录
Python中的支持向量机SVM的使用（附实例代码）
09-19
### Python中的支持向量机SVM使用详解及实例 #### 一、引言 支持向量机（Support Vector Machine, SVM）是一种广泛应用于分类与回归分析的监督学习模型。其核心思想是在高维空间中寻找一个最佳超平面，使得两个不同...
机器学习：支持向量机（SVM）
热门推荐
燕双嘤
11-06 17万+
1，概述 1.1，概念 支持向量机（SVM）是一类按监督学习方式对数据进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面，可以将问题化为一个求解凸二次规划的问题。与逻辑回归和神经网络相比，支持向量机，在学习复杂的非线性方程时提供了一种更为清晰，更加强大的方式。 具体来说就是在线性可分时，在原空间寻找两类样本的最优分类超平面。在线性不可分时，加入松弛变量并通过使用非线性映射将低维度输入空间的样本映射到高维度空间使其变为线性可分，这样就可以在该特征空间中寻找最优分类超平面。 SV
【ML】支持向量机SVM及Python实现（详细）
weixin_66845445的博客
03-26 1万+
支持向量机如果想划分效果很好，就需要找到支持向量的分布，再就是找到最大间隔的分离超平面，解决好上诉两个问题就基本可以实现支持向量机。
支持向量机SVM——简单实例应用
fjstjsjg的博客
06-11 1986
例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考支持向量机（Support Vector Machine，SVM）是一种常见的监督学习算法，用于分类和回归任务。SVM的目标是构建一个能够将不同类别的数据点尽可能正确地分隔开的决策边界。核函数是支持向量机（SVM）中的一种技术，用于将数据从原始特征空间映射到另一个高维特征空间。
实用机器学习：支持向量机SVM与核函数
m0_61254808的博客
01-31 1256
SVM模型训练过程：在初始阶段，超平面是随机初始化的，随着训练的进行，优化算法会不断调整超平面的位置和参数，以寻找最优的分类边界。核函数映射到高维空间的技巧帮助我们处理原始数据在低维空间中不可分的情况，通过引入更多的维度，使得数据在新的高维空间中变得线性可分。
机器学习模型3——支持向量机SVM
littleyy666的博客
09-21 3693
机器学习模型3——SVM
支持向量机SVM思维导图
你好
03-19 1993
分享自己学习整理的SVM支持向量机思维导图
机器学习笔记：支持向量机SVM
qq_40206371的博客
10-28 1798
我们用 x 表示原来的样本点，用 ϕ(x) 表示 x 映射到特征新的特征空间后到新向量。同样地， 之后利用SMO(Sequential Minimal Optimization) 算法求解各个λ，然后通过λ求W。前面讨论的硬间隔和软间隔都是在说样本的完全线性可分或者大部分样本点的线性可分。完全线性可分的样本是很少的，如果遇到了不能够完全线性可分的样本，应该怎么办？但是，问题来了，如果有很多的超平面可以分割这两类点，那么应该选择哪一条呢。就是：之前的 (xi⋅xj) 变成了 (ϕ(xi)⋅ϕ(xj))。
机器学习实验 - 支持向量机SVM
qq_41626672的博客
10-31 1669
西南交通大学 机器学习实验7 支持向量机SVM （1）掌握间隔、支持向量、对偶、核函数等概念及计算方法。（2）基于多分类数据集，使用pandas+sklearn实现多分类预测。（3）通过精确率、召回率和F1值度量模型性能。（4）对比线性核和高斯核对分类性能的影响。
支持向量机SVM原理解析
轩逸云的博客
04-13 7217
支持向量机(SVM） 可以找到这样一个超平面，使得所有相同类别的样本位于超平面一侧。如图示，可能存在无穷多个超平面。虽然他们的训练误差都等于0，但不能保证这些超平面在测...
基于python的粒子群算法PSO优化支持向量机SVM设计与实现
04-29
在机器学习领域，支持向量机（Support Vector Machines, SVM）是一种广泛应用的监督学习模型，尤其在分类和回归任务上表现出色。SVM通过构造一个最大边距超平面来分割数据，以达到最佳的泛化能力。然而，在解决高维...
鲸鱼算法算支持向量机SVM回归分析，鲸鱼算法优化支持向量机SVM沉降预测（代码完整，数据齐全）
09-08
基于MATLAB编程，鲸鱼算法算支持向量机SVM回归分析，鲸鱼算法优化支持向量机SVM沉降预测，代码完整，包含数据，有注释，方便扩展应用 1，如有疑问，不会运行，可以私信, 2，需要创新，或者修改可以扫描二维码联系博...
葡萄酒支持向量机SVM分类
04-15
支持向量机（Support Vector Machine，简称SVM）是一种强大的监督学习算法，广泛应用于分类和回归问题。在本示例中，“葡萄酒支持向量机SVM分类”是利用SVM来对葡萄酒数据进行分类的实践项目。这个压缩包可能包含了...
python利用支持向量机SVM进行时间序列预测（数据+源码）
04-18
支持向量机（Support Vector Machine，简称SVM）是一种强大的监督学习模型，广泛应用于分类和回归任务，包括时间序列预测。在本主题中，我们将深入探讨如何使用Python和SVM来预测时间序列数据，同时结合提供的`demo....
优化理论及应用精解【29】
最新发布
理论物理与应用物理之家
10-08 659
在支持向量机（SVM）的框架下，求解两条线段之间距离最近的两个点可以视为一个最优化问题。通常这个问题不直接涉及传统的SVM模型（用于分类或回归），而是与凸优化更为相关。这里我们可以使用几何方法和最优化技术来解决该问题。以下是求解思路：给定两条线段：我们需要找到P1(t)P_1(t)P1​(t) 和 P2(s)P_2(s)P2​(s)之间的最小距离，即最小化两个点之间的欧氏距离。两个点之间的距离函数可以写为： d(t,s)=∥P1(t)−P2(s)∥=∥(1−t)A1+tB1−((1−s)A2+sB2)∥ d
sklearn机器学习实战——支持向量机四种核函数分类任务全过程（附完整代码和结果图）
m0_59197405的博客
10-06 1155
在机器学习分类任务中，支持向量机（SVM, Support Vector Machine）是一种非常强大的算法。SVM模型通过找到决策边界（超平面），以最大化类别之间的间隔（margin）来进行分类。本文将探讨如何使用四种核函数的支持向量机实现分类任务，包括数据预处理、模型训练、交叉验证、性能评估和可视化的完整流程。附完整代码和结果图
回归预测 | Matlab基于SABO-SVR减法平均算法优化支持向量机的数据多输入单输出回归预测
关注并私信文章链接，获取对应文章源码和数据，机器学习之心的博客。
10-01 700
回归预测 | Matlab基于SABO-SVR减法平均算法优化支持向量机的数据多输入单输出回归预测
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值