SVM的学习笔记

SVM的学习笔记

一、基本参数。

1.   训练集合        {(x1,y1), (x2,y2), (x3,y3), (x4,y4), (x5,y5),…………. (xn,yn)}

        输入值：       xi  = {xi1, xi2, xi3, xi4, xi5……. x1n}

        输出值：       yi ∈ {1,-1}

2.   构建分类器:  f(x)=<w·x>+b

大于0时：       yi=1       小于0时：yi=-1

权重向量：w = { w1, w2, w3, w4, w5……. wn }

偏置：b

点积：w·x

本质：支持向量机是在找一个超平面（决策面）：<w·x>+b=0

将输入空间分为两个空间：正、负。

问题：①有无数条线都可以分割正例和负例。应该选择哪条线？图1

②超平面分类器只适用于正例和负例可以线性分割的情况，如何处理线性不可分的情况？或者需要非线性的决策边界？

    这些问题下面会做出解答。

二、线性支持向量机：可分的情况。

分割超平面：<w·x>+b=