分类算法----线性可分支持向量机（SVM）算法的原理推导

支持向量机（support vector machines, SVM）是一种二分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器，

其目标是在特征空间中找到一个分离超平面，能将实例分到不同的类，分离超平面将特征空间划分为两部分，正类和负类，法向量

指向的为正类，

1.几何间隔和函数间隔

如下图，有红色和绿色两类，假设红色为正，绿色为负类，数据集线性可分，这是有许多直线将两类数据正确分开，线性可分支持向量机

对应着将两类数据正确划分并且间隔最大的直线

函数间隔

对于给定的训练数据集T和超平面（w,b）定义函数间隔为