SVM的函数距离和几何距离

1.函数距离

函数距离：在超平面上我们定义函数距离$\hat{\gamma}$表达式$\hat{\gamma}$ = $y_{i}(w^T x+ b$）,其中$y_{i}\in$ {-1,1},$w$为向量，$b$为实数，当$y_{i}(w^T x+ b$）=0时，表示点在超平面，当$y_{i}(w^T x+ b$）>0时，表示点在与法向量w同方向一侧，当$y_{i}(w^T x+ b$）>0时，表示点在与法向量w同反向一侧，$\hat{\gamma}$随着w^T 和$b$的缩放比例可以任意改变大小。

2.几何距离

几何距离：在超平面上我们定义函数距离${\gamma}$表式式：${\gamma} = \frac{y_{i}(w^T x+ b）}{\Vert w \Vert}$,${\gamma}$随着w^T 和$b$的缩放比例保持不变，${\Vert w \Vert}$为$w$的范数，分子w^T 和$b$的缩放多少范数${\Vert w \Vert}$也会缩放同样的倍数，所以${\gamma}$会保持不变。