[证明]在二类线性分类中,权重向量w与决策平面正交。

需要明白的概念

决策平面： 特征空间 $R^d$ 中所有满足 $f(x,w)=0$ 的点组成一个分割超平面(hyperplane)，称为决策边界(decision boundary)或决策平面(decision surface)。

二类线性分类： 决策边界将特征空间一分为二，划分成两个区域，每个区域对应一个类别。

证明

由上面的定义可知，二类线性分类的判别函数可以表示为:
$$f(x)=w^T\ast x+w_0$$
因此决策平面为：
$$f(x)=w^T\ast x+w_0=0$$
对于决策平面上的任意线段，其起点 $x_1$ 和终点 $x_2$ 都在该超平面上，即满足
$$\begin{gathered} w^T\ast x_1+w_0=w^T\ast x_2+w_0 \\ 即w^T\ast (x_1-x_2)=0 \end{gathered}$$
因此权重向量$w$与决策平面正交。