sklearn中的支持向量机SVM(上)

本文介绍了支持向量机(SVM)的基本概念和工作原理,包括如何寻找最大边际的决策边界。SVM是一种强大的分类器,能处理不同分布的数据。在sklearn库中,SVM的实现主要集中在`sklearn.svm.SVC`。文章通过可视化手段,阐述了线性SVM的决策过程,涉及到函数间隔、几何间隔、拉格朗日对偶函数等概念,并通过Python代码展示了如何绘制决策边界和找到支持向量。
摘要由CSDN通过智能技术生成

1 概述

支持向量机(SVM,也称为支持向量网络),是机器学习中获得关注最多的算法没有之一。它源于统计学习理论,是我们除了集成算法之外,接触的第一个强学习器。它有多强呢?

从算法的功能来看,SVM几乎囊括了我们前六周讲解的所有算法的功能:

向量机使用很广泛的原因,对于不同的分布都有很好的效率

1.1 支持向量机分类器是如何工作的

支持向量机的分类方法,是在这组分布中找出一个超平面作为决策边界,使模型在数据上的分类误差尽量接近于小,尤其是在未知数据集上的分类误差(泛化误差)尽量小。

超平面:N维减1

也就是要找d最大

支持向量机,就是通过找出边际最大的决策边界,来对数据进行分类的分类器。也因此,支持向量分类器又叫做最大边际分类器。这个过程在二维平面中看起来十分简单,但将上述过程使用数学表达出来,就不是一件简单的事情了。

1.2 支持向量机原理的三层理解

目标是"找出边际最大的决策边界",听起来是一个十分熟悉的表达,这是一个最优化问题,而最优化问题往往和损失函数联系在一起。和逻辑回归中的过程一样,SVM也是通过最小化损失函数来求解一个用于后续模型使用的重要信息:决策边界。

没有必要听第三层理解

1.2 sklearn中的支持向量机

2 sklearn.svm.SVC

  • 1
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值