法向量(Normal Vector)是指与某个平面或超平面垂直的向量。在几何学和机器学习中,法向量通常用于表示超平面的方向,并在计算点到超平面的距离时起重要作用。
法向量的定义:
给定一个超平面,其方程通常表示为:
w
⋅
x
+
b
=
0
w \cdot x + b = 0
w⋅x+b=0
其中:
- w w w 是法向量。
- x x x 是平面上的点。
- b b b 是偏置项。
法向量 w w w 是垂直于超平面的向量,其方向表示超平面的“朝向”。例如,在二维平面中,直线的法向量是与这条直线垂直的向量;在三维空间中,平面的法向量是与该平面垂直的向量。
法向量的特点:
-
垂直性: 法向量始终与平面或超平面垂直。因此,法向量决定了超平面的方向,而与法向量平行的任何方向都会是超平面的垂直方向。
-
方向性: 法向量不仅表示超平面的垂直性,还决定了超平面上正负侧的方向。在分类问题中,法向量的方向可以用来区分不同类别。
-
大小: 法向量的大小 ∣ ∣ w ∣ ∣ ||w|| ∣∣w∣∣(即它的欧几里得长度)在许多情况下会用于计算距离或标准化,尤其是在计算点到超平面的垂直距离时。
几何解释:
在二维空间中,法向量可以看作是与直线垂直的箭头。例如,假设我们有一条直线 2 x + 3 y = 6 2x + 3y = 6 2x+3y=6,其法向量 w w w 是 [ 2 , 3 ] [2, 3] [2,3],这表示向量的方向与直线垂直。类似地,在三维或更高维空间中,法向量是与平面或超平面垂直的。
法向量在机器学习中的应用:
-
感知机模型和支持向量机(SVM): 在这些模型中,法向量 w w w 决定了分类超平面的方向。通过调整法向量,模型可以找到最佳的决策边界,将数据的不同类别分开。
-
点到超平面的距离: 在计算点到超平面的距离时,法向量的方向性和大小起到了标准化距离的作用。签名距离的计算也是基于法向量的点积。
举例:
在三维空间中,给定一个平面方程 3 x + 2 y − z + 5 = 0 3x + 2y - z + 5 = 0 3x+2y−z+5=0,平面的法向量为 w = [ 3 , 2 , − 1 ] w = [3, 2, -1] w=[3,2,−1]。这个向量表示了平面在空间中的方向,它与平面中的任意点的连接线垂直。
总结:
法向量是一个与平面或超平面垂直的向量,表示平面或超平面的方向。在机器学习中,法向量用于定义分类超平面,决定其方向,并在计算距离和梯度下降优化中有着重要作用。