超平面

$n$维空间中的超平面由如下方程确定：$$w^{T}x+b=0$$

其中，$w$和$x$都是$n$维列向量，$x$为平面上的点，$w$为平面上的法向量，决定了超平面的方向，$b$是一个实数，代表超平面到原点的距离。且
$$x=(x_1,x_2,x_3,...,x_d{)}^T,w=(w_1,w_2,w_3,...,w_d{)}^T$$

那么，$w$为什么是法向量呢？$b$为什么表示平面到原点的距离呢？
下面给出详细解释：
我们对“平面”概念的理解，一般是定义在三维空间中的，即
$$Ax+By+Cz+D=0$$

这个平面由两个性质定义：
1、方程是线性的，是由空间点的各分量的线性组合。2、方程数量是$1$。这个平面是建立在“三维”上的。如果我们撇开“维度”这个限制，那么就有了超平面的定义。实际上，超平面是纯粹的数学概念，不是物理概念，它是平面中的直线、空间中的平面的推广，只有当维度大于$3$，才称为超平面。它的本质是自由度比空间维度小$1$。自由度的概念可以简单的理解为至少要给定多少个分量的值才能确定一个点。例如，三维空间里的“超平面”只要给定了$(x,y,z)$中任意两个分量，剩下的一个的值就确定了。先确定值的两个分量是自由的， 因为它们想取什么值就能取什么值；剩下的那个是“不自由的”，因为它的值已经由另外两确定了。二维空间里的“超平面”为一条直线。一维空间里“超平面”为数轴上的一个点。

百度百科上对超平面的数学定义是这样的：
超平面$H$是从$n$维空间到$n-1$维空间的一个映射子空间，它由一个$n$维向量和一个实数定义。因为是子空间，所以超平面一定过原点。

通常，$R^2$（二维空间）中的点集$i=(x,y)$满足等式（点集$i$实际为一条直线）：$$ax+\frac{1}{b}y+c=0(1)$$

这里使用$\frac{1}{b}$是为了后续计算好表示，其中，$a$，$b$，$c$均为标量，$a$，$\frac{1}{b}$至少有一个不为$0$，我们假设$b$不为$0$，那么
$$y=-abx-cb$$

此时，使用换元法，令$t=x$（$t$为标量），则点集$i(x,y)$可以表示成：
$$i(x,y)=(t,-abt-cb)=t(1,-ab)+(0,-cb)$$

这条直线是什么？实际上就是过$(0,-cb)$点，方向为$(1,-ab)$的直线$L$。
进一步，我们令向量$n=(a,\frac{1}{b})$，则$(1)$可以表示成$n\ast i+c=0(2)$
神奇的一刻来临了。假设在直线$L$上取一点$p_0(x_0,y_0)$，显然，$n\ast p_0+c=0$，那么$c=-n\ast p0$。
更进一步，将$(2)$改写，可得$n\ast i-n\ast p_0=0$，即$n\ast (i-p_0)=0$。
因为$n$和$i-p_0$均是向量，$(i-p_0)$在直线$L$上，所以，$n$垂直于直线$L$，即$n$为直线$L$的法向量。更进一步，我们可以得到，那些与$p_0$的差向量与$n$向量垂直的点，就是点集$i(x,y)$。

进一步解释什么是超平面：
给定向量空间$R^n$中的一个点$P$和一个非零向量$n$，满足
$$n\ast (i-p)=0$$

则称点集$i$为通过点$p$的超平面，向量$n$为通过超平面的法向量。按照这个定义，虽然当维度大于$3$才可以成为超平面，但是你仍然可以认为，一条直线是$R^2$空间内的“超平面”，一个平面是$R^3$空间内的超平面。$R^n$空间的超平面是$R^n$空间内的一个$n-1$维的仿射子空间。

点到超平面的距离：
样本空间中的任意一点$x$，到超平面$(w,b)$的距离，可以表示为
$$\frac{|w^{T}x+b|}{||w||}$$

后来有同学评论说，点到超平面上的点为什么这么计算呢？我在这里再具体说一下。推导过程并不繁琐（这里以三维空间为例）。
对于平面$A$，假设$x^{\prime }$为平面上任意一点，那么，显然满足：
$$w^T{x}^{\prime }+b=0$$

对于空间上任意一点$x$，到平面$A$的距离$d$，等于$x$在超平面的法向量上的投影长度。而计算投影长度，根据公式$||a|\ast cos\theta |=\frac{|b\ast a|}{|b|}$，这里的$a$表示$x{x}^{\prime }$，$b$表示$w^T$，$|b|$表示$w$的模长。所以，距离$d$可以表示为：
$$d=\frac{|w^T(x-x^{\prime })|}{||w||}$$

又因为：$-w^T{x}^{\prime }=b$，所以，距离$d$为：
$$d=\frac{|w^{T}x+b|}{||w||}$$

判断超平面的正反：
一个超平面可以将它所在的空间分为两半，它的法向量指向的那一半是它的正面，另一半则是它的反面。如果利用数学来判断的话，需要利用到法向量$w$。
$$x在A的\{\begin{array}{ll}正面& ,w^{T}x+b>0\\ 平面上& ,w^{T}x+b=0\\ 反面& ,w^{T}x+b<0\end{array}$$

若将距离公式中分子的绝对值去掉，让它可以为正为负。那么，它的值正得越大，代表点在平面的正向且与平面的距离越远。反之，它的值负得越大，代表点在平面的反向且与平面的距离越远。

---

原文：https://blog.csdn.net/denghecsdn/article/details/77313758