Sklearn专题七:支持向量机SVM-非线性SVM与核函数

本文探讨了Sklearn中支持向量机SVM在处理非线性数据时,线性核函数和多项式核函数的表现。在非线性可分的数据集上,它们的效果会有所波动,而在线性数据集上则能保持较好的性能。多项式核函数虽然也可用于非线性问题,但更倾向于处理线性关系。
摘要由CSDN通过智能技术生成
核函数能够帮助我们解决三个问题:
第一,有了核函数之后,我们无需去担心 究竟应该是什么样,因为非线性 SVM中的核函数都是正定核函数(positive defifinite kernel functions) ,他们都满足美世定律 (Mercer's theorem),确保了高维空间中任意两个向量的点积一定可以被低维空间中的这两个向量的某种计算来表示(多数时候是点积的某种变换)。
第二,使用核函数计算低维度中的向量关系比计算原本的\Phi x_{i}\cdot \Phi x_{test}要简单太多了。
第三,因为计算是在原始空间中进行,所以避免了维度诅咒的问题。
选用不同的核函数,就可以解决不同数据分布下的寻找超平面问题。在 SVC 中,这个功能由参数 “kernel”和一系列与核函数相关的参数来进行控制。之前的代码中我们一直使用这个参数并输入 "linear",但却没有给大家详细讲解,也是因为如果不先理解核函数本身,很难说明这个参数到底在做什么。参数 “kernel" sklearn中可选以下几种选项:

 

可以看出,除了选项 "linear" 之外,其他核函数都可以处理非线性问题。多项式核函数有次数 d ,当 d 1的时候它就是再处理线性问题,当 d 为更高次项的时候它就是在处
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值