支持向量机学习小结

本文介绍了支持向量机的基本概念,包括如何通过凸二次规划问题寻找最佳超平面进行样本分类。讨论了无约束、等式约束和不等式约束优化问题的解决方法,如Fermat定理、拉格朗日乘子法和KKT条件。并提供了相关数学符号和SVM原理的详细推导链接。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

支持向量

支撑向量本质是向量,而这些向量却起着很重要的作用,如果做分类,他们就是离分界线最近的向量。也就是说分界面是靠这些向量确定的,他们支撑着分类面。

凸二次规划问题:优化目标函数是二次函数,且是凸函数,约束条件是线性函数。

如果一个线性函数能够将样本分开,称这些数据样本是线性可分的。那么什么是线性函数呢?其实很简单,在二维空间中就是一条直线,在三维空间中就是一个平面,以此类推,如果不考虑空间维数,这样的线性函数统称为超平面。我们看一个简单的二维空间的例子,O代表正类,X代表负类,样本是线性可分的,但是很显然不只有这一条直线可以将样本分开,而是有无数条,我们所说的线性可分支持向量机就对应着能将数据正确划分并且间隔最大的直线。

通常我们需要求解的最优化问题有如下几类:

(i) 无约束优化问题,可以写为:

​ min f(x);

(ii) 有等式约束的优化问题,可以写为:

​ min f(x),

​ s.t. h_i(x) = 0; i =1, …, n

(iii) 有不等式约束的优化问题,可以写为:

​ min f(x),

​ s.t. g_i(x) <= 0; i =1, …, n

​ h_j(x) = 0; j =1,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值