梅科尔工作室——深度学习第四课

SVM第一阶段学习

一、SVM与KUN的对比

1、KUN

回顾上一节：kun叫做邻近算法（又叫分类算法），首先要有k值，因为k值决定了虚线圆圈的大小，即以要算的未知值为圆心，k的值为半径，画一个虚线圆；然后根据数量决定未知值属于哪一类。

2.SVM

具体分析：SVM算法是根据提供的黑点和白点，来算出一条决策边界。然后，再来一个点时，如果位于边界上边，就分类为黑点那一边；反之，则为白点那一边。其实，最重要的是要分别找到两边的两个红点，即支持向量，如图所示。（相比于kun计算比较麻烦）

这是SVM的一个分类图：

 3.要解决什么样的问题

   KNN分类问题，离哪些点较近，就归哪一类。

  SVM分类问题，找决策边界，把数据进行划分开。

（二者算法很类似，但原理不同，相对来说SVM更复杂一些）

二、SVM分类的原理

支持向量积
1.距离计算（点到平面的距离）
2.目标函数
3.部分数学原理
4.软间隔优化
5.核函数（分类好的关键）
升维，二位的变成三维的，可能能够很好的用平面分开。