风中摇曳的小萝卜（机器学习）笔记 支持向量机

支持向量机就是找到一条直线，让两边的点与它的距离是最大的

只想两边的点为y=1和y=-1

然后就可以列出到直线的距离了

看分子的正负就可以区分点在直线的哪一边了

上面的表示为函数间隔 下面表示为函数范数

然后我们找到间隔最小的那些点，让最终直线距离他们最大

距离直线最近的点范数分之一就是我们需要优化的目标

优化计算过程中只和最近的点相关，这些样本也被称为支持向量

  

上面的推导过程看一下就好了，本博猪是一点都不理解，希望能早日和up一样牛

根据拉格拉日乘子法可以得到优化的对偶问题

通过升维的方法可以讲点区分为两个不同的区间，这个叫做非线性支持向量机

函数k就是变换之后两个样本点积的结果，称为核函数

小结：