SVM 机器学习算法

SVM 机器学习算法

一、SVM和KNN对比分析

KNN算法为“临近分类”，K值内的算一类

SVM为二分类模型，通过画一条超平面进行分类

---

二、SVM原理分析

具体数学原理可参考支持向量机（SVM）——原理篇 - 知乎 (zhihu.com)

以下用简单易懂的语言分析一下

我们通过再不同的特征点之间画一条线来区分样本，理论上有无数条可以画，但只有一条是效果最好的，我们把这些线叫做超平面

如图来看，当margin(间隔)最大的时候，犯错率更小

我们可以定义一个线性方程
$$w^{T}X+b=0$$

当确定了w和b就确定了唯一的一个超平面

方法

1、距离计算

先将每个超向量与假设超平面的距离进行计算，最后得到margin最大的超平面

2、软间隔：

对于噪音引入松弛因子，把异常数据提出不做考虑

---

三、使用百度飞桨调用sklearn库应用SVM

SVM鸢尾花分类-完整版 - 飞桨AI Studio (baidu.com)

结果