曼哈顿距离（L1范数）& 欧式距离（L2范数）区别

特征空间中两个实例点的距离是两个实例点相似程度的反映。特征空间一般是n维实数向量空间${\mathbf{R}}^n$（即欧式空间）。使用的距离是欧式距离，但也可以是其他距离，如更一般的$L_p$距离（$L_{p}distance$）或Minkowski距离。

设特征空间$\chi$是n维实数向量空间${\mathbf{R}}^n$，$x_i,x_j\in \chi ,x_l=(x_i^{(1)},x_i^{(2)},...,x_i^{(n)}{)}^T，x_j=(x_j^{(1)},x_j^{(2)},...,x_j^{(n)}{)}^T$，$x_i,x_j$的$L_p$距离定义为
$$L_p(x_i,x_j)=(\sum _{l=1}^n|x_i^{(l)}-x_j^{(l)}{|}^p{)}^{\frac{1}{p}}$$
这里$p\ge 1$。当$p=2$时，称为欧氏距离(Euclidean distance)，即
$$L_2(x_i,x_j)=(\sum _{l=1}^n|x_i^{(l)}-x_j^{(l)}{|}^2{)}^{\frac{1}{2}}$$
当$p=1$时，称为曼哈顿距离（Manhattan distance），即
$$L_1(x_i,x_j)=\sum _{l=1}^n|x_i^{(l)}-x_j^{(l)}|$$
当$p=\infty$时，它是各个坐标距离的最大值，即
$$L_{\infty }(x_i,x_j)=ma{x}_l|x_i^{(l)}-x_j^{(l)}|$$
下图是二维空间p取不同值时，与原点的$L_p$距离为1($L_p=1$)的图形。

参考资料：
《统计学习方法》