西瓜书SVM支持向量积--超平面的基础知识

一、法向量恒垂直于超平面

为什么超平面的法向量恒垂直于超平面呢?我们先来看一下超平面方程:
w T x + b = 0 w^Tx+b=0 wTx+b=0
这是多维的超平面方程,先来研究个简单的,在二维的情况下,不考虑偏置项b,超平面方程可以写做:
x 1 + x 2 = 0 x_1+x_2=0 x1+x2=0
画图如下:
在这里插入图片描述

x 1 + x 2 = 0 x_1+x_2=0 x1+x2=0的方程是直线L,我们将此方程改写成向量相乘的形式:
( 1 1 ) ⋅ ( x 1 x 2 ) = 0 \begin{pmatrix} 1 \\ 1 \\ \end{pmatrix} \cdot\begin{pmatrix} x_1 \\ x_2 \\ \end{pmatrix}= 0 (11)(x1x2)=0
其中 ( 1 1 ) \begin{pmatrix} 1 \\ 1 \\ \end{pmatrix} (11)是法向量w的表达式, ( x 1 x 2 ) \begin{pmatrix} x_1 \\ x_2 \\ \end{pmatrix} (x1x2)是直线方程L的向量表达式,横坐标值为 x 1 x_1 x1,纵坐标值为 x 2 x_2 x2

向量点乘就是把两个向量的模乘以两个向量夹角的余弦值.
∣ W ∣ ∗ ∣ O X ∣ ∗ c o s θ |W|*|OX|*cos \theta WOXcosθ
由于上面式子向量点乘的值等于0所以要么两个向量的模有一个等于0要么它们的夹角余弦值等于零。由于模等于零没有意义,因此它们的余弦值等于零。因此它们的夹角等于 9 0 o 90^o 90o。至于偏置b的情况,加上偏置b只不过是将直线L做了个平移,不会影响向量w与直线L的角度关系。

由于 x 1 x_1 x1 x 2 x_2 x2代表直线L方程的任意一个点,所以法向量w恒垂直于直线L。拓展到多维的情况也是如此。
下面来看第二个内容:

二、和法向量方向相同的点代入超平面方程恒大于等于零

按照同样的方法,比如有两个点,一个是点A,一个是点B。点A在直线L的上方,点B在直线L的下方,设点A的坐标是( x A , y A x_A,y_A xA,yA),点B的坐标方程是( x B , y B x_B,y_B xB,yB),如下图所示:
在这里插入图片描述

将点A与点B分别代入二维的坐标方程,有:
x A + y A = 0 x_A+y_A=0 xA+yA=0
x B + y B = 0 x_B+y_B=0 xB+yB=0
同样的写成向量相乘的形式有:
( 1 1 ) ⋅ ( x A y A ) = 0 \begin{pmatrix} 1 \\ 1 \\ \end{pmatrix} \cdot\begin{pmatrix} x_A \\ y_A \\ \end{pmatrix}= 0 (11)(xAyA)=0
( 1 1 ) ⋅ ( x B y B ) = 0 \begin{pmatrix} 1 \\ 1 \\ \end{pmatrix} \cdot\begin{pmatrix} x_B \\ y_B \\ \end{pmatrix}= 0 (11)(xByB)=0
同样根据向量点乘的定义有,向量w与向量OA的夹角小于90度,因此向量w与向量OA点乘大于零,向量w与向量OB的夹角余弦值大于90°是个负值,所以点乘结果小于零。因此直线上面的点代入方程后结果大于零,直线下方的点代入方程后结果小于零。

法向量与位移项位移确定一个超平面

根据超平面公式:

w T x + b = 0 w^Tx+b=0 wTx+b=0

w T w^T wT与b确定后,超平面的方程也确定了,因此超平面也就确定了。

等倍缩放超平面的法向量和位移项,超平面不变

超平面方程两边同时乘以一个常系数,等式仍然成立。

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

wyssailing

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值