超平面与线性可分

参考：http://mp.weixin.qq.com/s/2QHG0D1j0hQyErYg7Cp53w
http://blog.csdn.net/m0_37658225/article/details/70048959
在介绍线性可分之前就必须先介绍一下超平面的概念。
通常我们熟知的“平面”，一般定义在3维的空间中，即形式为Ax+By+Cz+D=0。只有当维度大于3时，才称为“超”。而超平面的本质就是自由度比空间维度小1。
自由度可以理解为至少给定多少个分量时才能确定一个点。例如在2维空间中，给定2个分量就可以确定一个点。我自己结合线性代数的理解说一下我的看法，其实也可以从基向量的角度来说（不知道对不对，如果错了请指正）。我们知道一个空间是可以由某些基向量构成的，在这里拿平面来说，必然需要2个基向量才能构成一个平面，即span{x1,x2}。所以自由度应该也能由基向量的个数来决定。即基向量个数就是自由度的值。
直观上理解就是，2维平面上的超平面是一条线，3维空间的超平面是一个面。这里给出超平面的定义： Ⅰ：W.X+b = 0,其中W,X都是 n维的向量，X=(x1,x2,…,xn)是超平面上的点，W为超平面的法向量，W=(w1,w2,…,wn)，.代表內积，Ⅰ是n维空间中的超平面。
这里需要说明的一个超平面可以将它所在的空间分为两半, 它的法向量指向的那一半对应的一面是它的正面, 另一面则是它的反面。那如何判断某个点X=（x1,x2,…,xn）是在超平面上，超平面的正面，还是在超平面的负面。这里可以根据

有了超平面之后，线性可分的概念也就清晰了。对于一个数据集D={（x1,y1）,(x2,y2),…..,(xn,yn)}。这里（xi,yi）是一个样本，细分来说，xi是输入数据，yi是对应的标签。（对于一个2分类的问题，若yi=1，则称其为正样本，若yi=-1则称其为负样本，且标签只能取+1和-1 这两个值）如果存在一个超平面，能够将数据集D的正负样本分开，那么就称D是线性可分的。否则就是线性不可分的。