本文详细介绍了数据挖掘和机器学习中常用的距离度量方法，包括曼哈顿距离、欧几里得距离、切比雪夫距离等，并探讨了马哈拉诺比斯距离、巴塔恰里雅距离以及Hamming距离。同时，文章还讨论了相似度计算中的余弦相似性和Jaccard相似系数，并讲解了信息熵和交叉熵的概念。这些度量在理解和处理多维数据时至关重要。
主要是数据挖掘、机器学习等领域用到，所使用的变量通常是两个向量或空间中的两个点。
常见距离
定义n维空间中的两个点（即表示为n维向量）
点1 x 1 ⃗ = { x 11 , x 12 , … , x 1 n } \vec {x_1} = \{x_{11}, x_{12}, \ldots, x_{1n}\} x1={
x11,x12,…,x1n}和点2
x 2 ⃗ = { x 21 , x 22 , … , x 2 n } \vec {x_2} = \{x_{21}, x_{22}, \ldots, x_{2n}\} x2={
x21,x22,…,x2n}
几种距离的计算相当于向量中的 p − p- p−范数。
1. 曼哈顿距离（Manhattan Distance）
也叫城市街区距离(City Block distance)
d = ∣ x 11 − x 21 ∣ + ∣ x 12 − x 22 ∣ + … + ∣ x 1 n − x 2 n ∣ = ∑ k = 1 n ∣ x 1 k − x 2 k ∣ d = |x_{11}-x_{21}|+|x_{12}-x_{22}| + \ldots + |x_{1n}-x_{2n}| = \sum_{k=1}^n |x_{1k}-x_{2k}| d=∣x11−x21∣+∣x12−x22∣+…+∣x1n−x2n∣=<
最低0.47元/天 解锁文章
扫一扫
648
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
