数据挖掘中常用的相似性度量方法

本文将介绍数据分析、数据挖掘、机器学习等领域中常用的相似性度量（Similarity Measurement）方法。

(1) Manhattan Distance（曼哈顿距离）

我们知道曼哈顿街区有一个个方块构成，从一个十字路口（0,0）到另一个十字路口（3,3）的最短路程，不是两点的连线距离，而是两条垂直线的距离和，也就是“曼哈顿距离”。假设有两个$N$维的向量$x,y$，$x$和$y$可以分别表示为$x=(x_1,x_2,\cdots ,x_N)$和$y=(y_1,y_2,\cdots ,y_N)$，那么$x$和$y$的曼哈顿距离可以用$L_1$范式表示，即
$$d(x,y)=\sum _{i=1}^N|x_i-y_i|$$

(2) Euclidean Distance（欧氏距离）

假设有两个$N$维的向量$x,y$，$x$和$y$可以分别表示为$x=(x_1,x_2,\cdots ,x_N)$和$y=(y_1,y_2,\cdots ,y_N)$，那么$x$和$y$的欧式距离可以用$L_2$范式表示，即
$$d(x,y)=\sqrt{\sum _{i=1}^N(x_i-y_i{)}^2}$$

(3) Minkowsk Distance（闵可夫斯基距离）

假设有两个$N$维的向量$x,y$，$x$和$y$可以分别表示为$x=(x_1,x_2,\cdots ,x_N)$和$y=(y_1,y_2,\cdots ,y_N)$，那么$x$和$y$的闵可夫斯基距离可以用$L_p$范式表示，即
d ( x , y ) = ∑ i = 1 N ( x i − y i ) p p d(x,y)=\sqrt[^p]{\sum_{i=1}^{N}(x_i-y_i)^p} d(x,y)=pi=1∑N​(x