《Python机器学习实战》笔记一 常用距离度量方法

一、欧氏距离（Euclidean distance）

指m维中两点之间的真实距离，缺点：对某些量纲不同的变量（如“身高”和“体重”）赋予同等重要程度，没有进行标准化处理。

计算公式 点P₁(x₁₁,x₁₂,…,x_1n)与P₂(x₂₁,x₂₂,…,x_2n)之间的欧式距离为：

用Jupyter Notebook编写代码：

import numpy as np
x = np.array([1,1])
y = np.array([4,5])
from math import *
def e_distance(x,y):
    return sqrt(sum(pow(a-b,2) for a,b in zip(x,y)))
print(e_distance(x,y))

运行结果：5.0

注：zip函数可以把可迭代的对象作为参数，将对象中对应的元素打包成一个个元组，然后返回由这些元组组成的列表，举例如下：

s = 'hello world'
dict_comp = {k:v for(k,v)in zip(range(11),s)}
print(dict_comp)

运行结果：{0: ‘h’, 1: ‘e’, 2: ‘l’, 3: ‘l’, 4: ‘o’, 5: ’ ', 6: ‘w’, 7: ‘o’, 8: ‘r’, 9: ‘l’, 10: ‘d’}

二、曼哈顿距离（Manhattan distance）

欧几里得空间的固定直角坐标系上两点所形成的线段对轴所产生的投影的距离总和。

计算公式 点P₁(x₁₁,x₁₂,…,x_1n)与P₂(x₂₁,x₂₂,…,x_2n)之间的欧式距离为：

用Jupyter Notebook编写代码：

import numpy as np
x = np.array([1,1])
y = np.array([4,5])
from math import *
def m_distance(x,y):
    return sum(abs(x-y))
print(m_distance(x,y))

运行结果：7

三、切比雪夫距离（Chebyshev distance）

类似于国际象棋中，国王走一步能移动到相邻8个格子中的任意一格，则他从(x₁,y₁)走到(x₂,y₂)最少需要走max(|x₂-x₁|,|y₂-y₁|)。

计算公式 点P₁(x₁₁,x₁₂,…,x_1n)与P₂(x₂₁,x₂₂,…,x_2n)之间的欧式距离为：

用Jupyter Notebook编写代码：

import numpy as np
x = np.array([1,1])
y = np.array([4,5])
from math import *
def q_distance(x,y):
    return abs(x-y).max()
print(q_distance(x,y))

运行结果：4

四、夹角余弦距离（Cosine distance）

向量空间中两个向量夹角的余弦值，取值范围为[-1,1]，夹角余弦越大表示两个向量夹角越小，当两向量方向重合时夹角余弦取最大值1，当两者方向相反时取最小值-1，只考虑方向一致性，不考虑强度。

计算公式 点P₁(x₁₁,x₁₂,…,x_1n)与P₂(x₂₁,x₂₂,…,x_2n)之间的欧式距离为：

用Jupyter Notebook编写代码：

import numpy as np
x = np.array([1,1])
y = np.array([4,5])
from math import *
def cos_distance(x,y):
    return np.dot(x,y)/(np.linalg.norm(x)*np.linalg.norm(y))
print(cos_distance(x,y))

运行结果：0.9938837346736188

注：dot()返回的是两个数组的点积(dot product) linalg=linear（线性）+algebra（代数），norm则表示范数。

第一次写笔记，花了两个小时，感觉排版、公式等都还没搞清楚，也没有什么创新点，老师说要自己写一遍才有更好的理解，希望能和小小白们一起学习进步~
另外感觉《Python机器学习实战》裔隽等著，这本书真的不错，想用Python进行机器学习实战的小伙伴可以看看~