欧式距离，马氏距离，曼哈顿距离

欧式距离、马氏距离和曼哈顿距离是衡量两点间距离的几种方式，常用于机器学习和数据挖掘中。它们的主要区别在于它们对不同特征的权重处理方式不同。

1. 欧式距离（Euclidean Distance）

   • 定义：在m维空间中，两点P1和P2之间的欧式距离是它们各维度差值的平方和的平方根。
   • 公式：[ \text{欧式距离} = \sqrt{\sum_{i=1}^{m} (p_{1i} - p_{2i})^2} ]
   • 特点：假设所有维度的重要性相同，即各维度具有相同的权重。这个公式可以推广到任意维度的空间。欧式距离假设所有维度的重要性相同，即各维度具有相同的权重。这意味着在计算距离时，每个维度的差异都被同等对待。

2. 马氏距离（Mahalanobis Distance）

   • 定义：考虑了数据的协方差矩阵，是欧式距离的一种扩展。
   • 公式：[ \text{马氏距离} = \sqrt{(x - \mu)^T \Sigma^{-1} (x - \mu)} ]
   • 特点：能够对不同变量的重要性进行加权，适合维度之间相关性较大的数据。马氏距离通过协方差矩阵来调整不同维度之间的权重，使得对于数据中的每个维度，其贡献都能够根据数据的分布被适当放大或缩小。

3. 曼哈顿距离（Manhattan Distance）

   • 定义：在m维空间中，两点P1和P2之间的曼哈顿距离是它们各维度差的绝对值之和。
   • 公式：[ \text{曼哈顿距离} = \sum_{i=1}^{m} |p_{1i} - p_{2i}| ]
   • 特点：类似于城市街道的距离计算，每一步的移动都有固定的“成本”，适合衡量数据点在坐标系中的垂直或对角线距离。

     曼哈顿距离适合于城市街道的距离计算，或者当数据点的移动只能沿着坐标轴时。它不考虑维度之间的对角线距离，而是计算点在每个维度上的绝对差值之和。

     在实际应用中，选择合适的距离度量取决于数据的特性和问题的需求。例如，如果数据集中的特征具有不同的量纲和尺度，马氏距离可能更为合适；如果特征间存在周期性或对角线关系，曼哈顿距离可能是更好的选择；而欧式距离则是在各维度重要性相同时的默认选择。

在实际应用中，选择合适的距离度量取决于具体问题和数据特性。例如，如果数据集中的特征具有不同的量纲和尺度，马氏距离可能更为合适；如果特征间存在周期性或对角线关系，曼哈顿距离可能是更好的选择；而欧式距离则是在各维度重要性相同时的默认选择。