统计学习方法(李航) 支持向量机附python及sklearn实现

最新推荐文章于 2024-07-15 15:40:17 发布

tsuiraku

最新推荐文章于 2024-07-15 15:40:17 发布

阅读量694

点赞数

分类专栏：机器学习文章标签：支持向量机 svm 李航统计学习方法 sklearn

本文链接：https://blog.csdn.net/m0_49337600/article/details/107926160

版权

本文介绍了支持向量机（SVM）的概念，包括线性可分、近似可分和线性不可分情况下的应用。SVM通过最大化间隔进行分类，支持向量对分类器有重要影响。文章探讨了超平面、核技巧如多项式和高斯核，以及正则化和Gamma参数。此外，还提供了使用SVM对鸢尾花数据集进行分类的Python实现示例。

摘要由CSDN通过智能技术生成

支持向量机

有监督学习
分类问题
$V a p n i k$
线性可分支持向量机/线性支持向量机/非线性支持向量机

什么是支持向量机呢？

$Support\space Vector\space Machine$ ：支持向量机

先抛出难懂的定义～可以先跳过，最后再来回顾

定义：支持向量机的基本模型是定义在特征空间上的间隔最大的线性分类器。支持向量机还包括核技巧，这使得它成为实质上的非线性分类器。支持向量机的学习策略即间隔最大化，可以形式化为一个求解凸二次规划的问题，也等价于正则化的合页损失函数的最小化问题。支持向量机的学习算法是求解凸二次规划的最优化问题。

支持向量机的学习方法由简至繁：

线性可分支持向量机 $\space support\space vector\space machine\space in\space linearly\space separable\space case)$
线性支持向量机 $\space support\space vector\space machine)$
非线性支持向量机 $\space support\space vector\space machine)$

根据训练数据：

当训练数据线性可分时，通过硬间隔最大化 $\space margin \space maximization)$ ，学习一个线性的分类器，即线性可分支持向量机，又称为硬间隔支持向量机
当训练数据近似可分时，通过软间隔最大化 $\space margin \space maximization )$ ，学习一个线性的分类器，即线性支持向量机，又称为软间隔支持向量机
当训练数据不可分时，通过核技巧 $\space trick)$ ，学习非线性支持向量机

1.初步了解，当数据是线性可分时

假设现在二维平面上有两组不同标签的数据，你能够区分这两组数据吗？

在这里插入图片描述

你可能已经能够想出类似与下方图片的划分方法。很显然，在绿线左边的是黑色的类，而右边的是蓝色的类。

这就是 $S V M$ 做的事情（在多维平面上分离各组类），它能够找到一个超平面（此处为直线），有效的将两组类区分。绿色的直线即为我们找到的支持向量的分类器。当然

最低0.47元/天解锁文章

tsuiraku

关注

0
点赞
踩
7

收藏

觉得还不错? 一键收藏
0
评论
统计学习方法(李航) 支持向量机附python及sklearn实现

支持向量机有监督学习分类问题VapnikVapnikVapnik线性可分支持向量机/线性支持向量机/非线性支持向量机什么是支持向量机呢？Support Vector MachineSupport\space Vector\space MachineSupport Vector Machine：支持向量机先抛出难懂的定义～可以先跳过，最后再来回顾定义：支持向量机的基本模型是定义在特征空间上的间隔最大的线性分类器。支持向量机还包括核技巧，这使得它成为实
复制链接

扫一扫