学习笔记2分支1--学习笔记2-马氏距离

一般在机器学习模型中会涉及到衡量两个样本间的距离，如聚类、KNN，K-means等，使用的距离为欧式距离。其实，除了欧氏距离之外，还有很多的距离计算标准，本文主要介绍欧氏距离和马氏距离。

 

下面我们来看一个例子：
如果我们以厘米为单位来测量人的身高，以克（g）为单位测量人的体重。每个人被表示为一个两维向量，如一个人身高173cm，体重50000g，表示为（173,50000），根据身高体重的信息来判断体型的相似程度。

我们已知小明（160,60000）；小王（160,59000）；小李（170，60000）。根据常识可以知道小明和小王体型相似。但是如果根据欧几里得距离来判断，小明和小王的距离要远远大于小明和小李之间的距离，即小明和小李体型相似。这是因为不同特征的度量标准之间存在差异而导致判断出错。

以克（g）为单位测量人的体重，数据分布比较分散，即方差大，而以厘米为单位来测量人的身高，数据分布就相对集中，方差小。马氏距离的目的就是把方差归一化，使得特征之间的关系更加符合实际情况，马氏距离除以了一个方差矩阵，这就把各个分量之间的方差都除掉了，消除了量纲性，更加科学合理。

如上图，看左下方的图，比较中间那个绿色的和另外一个绿色的距离，以及中间绿色到蓝色的距离

如果不考虑数据的分布，就是直接计算欧式距离，那就是蓝色距离更近

但实际上需要考虑各分量的分布的，呈椭圆形分布

蓝色的在椭圆外，绿色的在椭圆内，因此绿色的实际上更近

马氏距离除以了协方差矩阵，实际上就是把右上角的图变成了右下角

————————————————
原文链接：https://blog.csdn.net/bluesliuf/article/details/88862918

未转载：可参考https://blog.csdn.net/goodshot/article/details/50961720查看具体公式