距离度量表示法

距离度量表示法

• 1、欧式距离

  

• 2、曼哈顿距离

  
• 通俗来讲，想象你在曼哈顿要从一个十字路口开车到另外一个十字路口，驾驶距离是两点间的直线距离吗？显然不是，除非你能穿越大楼。而实际驾驶距离就是这个“曼哈顿距离”，此即曼哈顿距离名称的来源， 同时，曼哈顿距离也称为城市街区距离(City Block distance)。

• 3、切比雪夫距离

  
• 这个公式的另一种等价形式
  
• 玩过国际象棋的朋友或许知道，国王走一步能够移动到相邻的8个方格中的任意一个。那么国王从格子(x1,y1)走到格子(x2,y2)最少需要多少步？。你会发现最少步数总是max( | x2-x1 | , | y2-y1 | ) 步 。类似的距离度量方法叫切比雪夫距离。

• 4、闵可夫斯基距离(Minkowski Distance)

• 闵氏距离不是一种距离，而是一组距离的定义。
  
• 其中p是一个变参数。当p=1时，就是曼哈顿距离；当p=2时，就是欧氏距离；当p→∞时，就是切比雪夫距离。根据变参数的不同，闵氏距离可以表示一类的距离。

• 5、标准欧式距离 (Standardized Euclidean distance)

• 标准化欧氏距离是针对简单欧氏距离的缺点而作的一种改进方案。
• 假设样本集X的数学期望或均值(mean)为m，标准差(standard deviation，方差开根)为s，那么X的“标准化变量”X* 表示为：(X-m) / s，而且标准化变量的数学期望为0，方差为1。
  
• 标准化后的值 = ( 标准化前的值 － 分量的均值 ) /分量的标准差，标准化欧氏距离的公式：
  
• 如果将方差的倒数看成是一个权重，这个公式可以看成是一种加权欧氏距离
• 如果使用长宽比为 2:1 的二维矩形作为单元大小，那么使用标准欧式距离公式为：
  

6、马氏距离(Mahalanobis Distance)

7、巴氏距离（Bhattacharyya Distance）

8、汉明距离(Hamming distance)

• 两个等长字符串s1与s2之间的汉明距离定义为将其中一个变为另外一个所需要作的最小替换次数。例如字符串“1111”与“1001”之间的汉明距离为2。应用：信息编码（为了增强容错性，应使得编码间的最小汉明距离尽可能大）。

9、夹角余弦(Cosine)

• 几何中夹角余弦可用来衡量两个向量方向的差异，机器学习中借用这一概念来衡量样本向量之间的差异。

10、杰卡德相似系数(Jaccard similarity coefficient)

11、皮尔逊系数(Pearson Correlation Coefficient)

• 简单说来，各种“距离”的应用场景简单概括为，空间：欧氏距离，路径：曼哈顿距离，国际象棋国王：切比雪夫距离，以上三种的统一形式:闵可夫斯基距离，加权：标准化欧氏距离，排除量纲和依存：马氏距离，向量差距：夹角余弦，编码差别：汉明距离，集合近似度：杰卡德类似系数与距离，相关：相关系数与相关距离。