SVM数学过程
概念
超平面
w 1 x 1 + w 2 x 2 + w 3 x 3 + … + w n x n + b = 0 w_{1}x_{1}+w_{2}x_{2}+w_{3}x_{3}+…+w_{n}x_{n}+b=0 w1x1+w2x2+w3x3+…+wnxn+b=0
可简化成: w x + b = 0 wx+b=0 wx+b=0
正确分类点
正例: w x + b > 0 wx+b>0 wx+b>0
负例: w x + b < 0 wx+b<0 wx+b<0
输入空间到输出空间的映射函数
y = s i g n ( w x + b ) y=sign(wx+b) y=sign(wx+b)
其中,
s i g n ( x ) = { + 1 x < 0 − 1 x > 0 sign(x) = \begin{cases} \ +1 \qquad & x<0 \\ \ -1 \qquad & x >0 \end{cases} sign(x)={
+1 −1x<0x>0
误分类点
误分类点有两种情况:一种是被本来是正例,但是被分到负例;另一种是本来是正例,也被分到正例了,但是它比支持向量更近于超平面,它却不是支撑超平面的支持向量,有违支持向量机的定义。
这两种误分类情况的映射函数是这样的,第一种是 w x + b > 0 wx+b>0 wx+b>0,却被认为 w x + b < 0 wx+b<0 wx+b<0,所以在映射函数中,被应用于第二种情况,即取-1,故此时 y = 正 数 ∗ 负 数 < 0 y=正数*负数<0 y=正数∗负数<0, 映 射 函 数 < 0 映射函数<0 映射函数<0;第二种情况是本来是正例,但是是比支持向量更近于超平面的正例,故y>0,但不满足 y i ( w x i + b ) > = 1 y_{i}(wx_{i}+b)>=1 yi(wx