一、常用距离量度:
一、欧氏距离:最常见的距离度量,也是我们通常想到的直线距离。在二维或三维空间中,欧氏距离可以通过勾股定理计算。
二、曼哈顿距离:也称为城市街区距离或L1距离,是沿着坐标轴的距离总和。在二维平面中,曼哈顿距离即为两点之间的横向和纵向距离之和。
三、切比雪夫距离:也称为棋盘距离或L∞距离,是两点在各个坐标轴上坐标差的最大值。在二维平面中,切比雪夫距离即为两点的横向和纵向距离的最大值。
四、闵可夫斯基距离:是欧氏距离和曼哈顿距离的一种推广,可以通过一个参数p来调节。当p=1时,闵可夫斯基距离等同于曼哈顿距离;当p=2时,等同于欧氏距离。闵可夫斯基距离的定义为:(∑|x_i - y_i|^p)^(1/p),其中x和y为两个点的坐标,i为坐标索引。
二、KNN算法之鸢尾花案例
-
from sklearn.datasets import load_iris
-
import matplotlib.pyplot as plt
-
import seaborn as sns
-
import pandas as pd
-
from sklearn.model_selection import train_test_split
-
from sklearn.preprocessing import StandardScaler
-
from sklearn.neighbors import KNeighborsClassifier
-
# 1.加载数据集
-
iris_data = load_iris()
-
#print(f'数据集-->\n{iris_data.feature_names}\n{iris_data.data[:10]}')
-
#print(f'\n目标值-->\n{iris_data.target_names}\n{iris_data.target}')
-
# 2.数据展示
-
iris_df = pd.DataFrame(iris_data['data'],columns=iris_data.feature_names)
-
#print(iris_df)
-
iris_df['target'] = iris_data.target
-
#print(iris_df)
-
feature_names = list(iris_data.feature_names)
-
#print(feature_names)
-
for i in range(len(feature_names)):
-
for j in range(len(feature_names)):
-
col1 = feature_names[i]
-
col2 = feature_names[j]
-
sns.lmplot(x=col1, y=col2, hue='target', data=iris_df,fit_reg=False)
-
plt.xlabel(col1)
-
plt.xlabel(col2)
-
plt.title(f'{col1} vs {col2}')
-
plt.show()
-
# 3.数据基本处理
-
x_train,x_test,y_train,y_test = train_test_split(iris_data.data,iris_data.target,test_size=0.3)
-
print(f'数据总数量-->{len(iris_data.data)}')
-
print(f'训练集数量-->{len(x_train)}')
-
print(f'测试集数量-->{len(x_test)}')
-
# 4.特征处理
-
transfer = StandardScaler()
-
x_train = transfer.fit_transform(x_train)
-
x_test = transfer.fit_transform(x_test)
-
# 5.实例化
-
model = KNeighborsClassifier(n_neighbors=5)
-
# 6.训练
-
model.fit(x_train,y_train)
-
# 7.评估
-
y_pre = model.predict(x_test)
-
accuracy_score(y_test,y_pre)
-
score2 = model.score(x_test,y_test)
-
# 8.预测
-
mydata = [[5.1,3.5,1.4,0.2],
-
[4.6,3.1,1.5,0.2]]
-
mydata = transfer.fit_transform(mydata)
-
predata = model.predict(mydata)
-
print(f'predate-->{predata}')
下面是运行结果: