Svm算法原理简单梳理

这里首先简单介绍一下svm算法：

（1）支持向量机（Support Vector Machine, SVM）是一种对数据进行二分类的广义线性分类器，其分类边界是对学习样本求解的最大间隔超平面。

（2）SVM使用铰链损失函数计算经验风险并在求解系统中加入了正则化项以优化结构风险，是一个具有稀疏性和稳健性的分类器 。

（3）SVM可以通过引入核函数进行非线性分类。

关于SVM的阐述，我们发现SVM有三宝，分别是最大间隔、对偶问题以及核函数。

SVM 是一种二类分类模型。它的基本模型是在特征空间中寻找间隔最大化的分离超平面的线性分类器。

• 当训练样本线性可分时，通过硬间隔最大化，学习一个线性分类器，即线性可分支持向量机；

• 当训练数据近似线性可分时，引入松弛变量，通过软间隔最大化，学习一个线性分类器，即线性支持向量机；

• 当训练数据线性不可分时，通过使用核技巧及软间隔最大化，学习非线性支持向量机。

硬间隔最大化（几何间隔）、学习的对偶问题、软间隔最大化（引入松弛变量）、非线性支持向量机（核技巧）。

接下来讲一下我对于svm原理的理解

首先svm算法，当遇到分布比较杂乱的函数时，可以进行升维处理，将二维不好处理的问题改为三维，是一个比较好的办法；

此外，svm分割数据的操作也比较合理，划分边界及区域在经过一些复杂的函数计算什么的，可以算出划分的边界的位置，划分好边界线，之后便可以划分边界区域，这样区分样本的时候就会事半功倍了。

对于升维进行计算数据的话，是存在一个核函数的，具体的讲解如下：

当样本在原始空间线性不可分时，可将样本从原始空间映射到一个更高维的特征空间，使得样本在这个特征空间内线性可分。而引入这样的映射后，所要求解的对偶问题的求解中，无需求解真正的映射函数，而只需要知道其核函数。

核函数的定义：K(x,y)=<ϕ(x),ϕ(y)>，即在特征空间的内积等于它们在原始样本空间中通过核函数 K 计算的结果。一方面数据变成了高维空间中线性可分的数据，另一方面不需要求解具体的映射函数，只需要给定具体的核函数即可，这样使得求解的难度大大降低。

这也是svm算法比较厉害的一方面。