svm c++实现_SVM

先导知识

向量的内积

线性可分支持向量机

推导目标函数：

平面上有两种不同的数据，假设这些数据是线性可分的，则可以用一条直线将这两类数据分开。但这种直线有很多，哪条是最好的？

由初中数学可知：点(

,

)到直线Ax+By+C=0的距离为

将(x,y)替换成(

,

),A,B替换成(

,

),C替换成b,则这条直线变成 :

点(

,

)到分离超平面(二维上是直线)的距离为:

写成矩阵的形式：

为样本

的类别,定义:

为正例,

=1 ;

为负例,

=-1(这样定义是为了后面化简方便,像LR定义成1/0),这里

为第i个样本

y(

)>0 <=>

= 1 在分离直线法向量上方

y(

)<0 <=>

= -1 在分离直线法向量下方

=>

=> 去分子的绝对值 d=

(