6.1间隔与支持向量
超平面与距离:在样本空间中,划分超平面可通过如下线性方程来描述:
其中,为法向量,决定了超平面的方向;b为位移项,决定了超平面与原点之间的距离。显然,划分超平面可被法向量w和位移b确定,下面我们将其记为(w,b).样本空间中任意点x到超平面(w,b)的距离可写为
(超平面是n维空间中的n-1维的子空间。它是平面中的直线、空间中的平面之推广。)
最大间隔、支持向量:假设超平面(w,b)能将训练样本正确分类,即对于,若,则有; 若,则有.令(归一化操作)
则,距离超平面最近的几个训练样本点使得上式中的等号成立,这几个样本点就被称为“支持向量”,间隔即为两个异类支持向量到超平面的距离之和为
具体示例如下图: