SVM

SVM的一般定义

支持向量机（support vector machines, SVM）是一种二分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；SVM还包括核技巧，这使它成为实质上的非线性分类器。SVM的的学习策略就是间隔最大化，可形式化为一个求解凸二次规划的问题，也等价于正则化的合页损失函数的最小化问题。SVM的的学习算法就是求解凸二次规划的最优化算法。

我们可以使用上图来解释，有黑点和白点两类簇，SVM要做的就是找到这两个簇间间隔最远的线，高维方面就是找到两个簇分隔最远的超平面。

模型建立

我们先来了解一些高中知识的演化

上图中去掉绝对值使因为绝对值只决定这个点在直线的上方还是下方。最后距离公式中的b就是C~。

放到SVM中，对于二分类问题来说，如下图

假设我们设定一条直线L1：Ax+By+C=0，那么根据上面的距离公式，可以计算出每个点到这条直线的距离，假设有n个，那总会有一个距离这条直线最近的点，如果有许多直线，那我们要找的是距离直线最小距离中的最大值。

放到公式中，i 代表每个点到直线的距离，取最小‘；j 代表遍历所有直线，取最小距离中的最大值。

前面是介绍了一些辅助理解的东西

后续的专业推导可以看这个https://zhuanlan.zhihu.com/p/31886934