距离函数

欧式距离（通常是距离的默认选择）：

（l-p 距离）欧式距离的延申

当p=2时为欧式距离

p =1 时为l-1距离（真正地考虑到每个维度的差距），在机器学习中常用到。

还有一种距离（无穷距离），仅仅考虑了差距最大的那个维度的差距。

对于相同的向量，不同的距离度量，算出来的距离值不同。

以原点为中心的圆上，l2距离相等。

 

以原点为中心的菱形上，l1距离相等。

以原点为中心的正方形上，l 无穷距离相等。

距离函数必需要满足的性质

 

KL 散度，或者相对熵。衡量两个分布之间相似度。它并不满足对称性，也不满足三角不等式，机器学习中常用。