一、距离度量
1.欧氏距离
2.曼哈顿距离
3.切比雪夫距离
4.闵可夫斯基距离
二、特征预处理
1.归一化
通过对原始数据进行变换把数据映射到【mi,mx】(默认为[0,1])之间)
2.标准化
通过对原始数据进行标准化,转换为均值为0标准差为1的标准正态分布的数据
3.归一化、标准化的原因
特征的单位或者大小相差较大,或者某特征的方差相比其他的特征要大出几个数量级,容易影响(支配)目标结果,使得一些模型(算法)无法学习到其它的特征。
4.利用KNN算法对鸢尾花分类--评估模型
代码如下
#加载数据集 数据展示 数据基本处理 特征处理 实例化 训练 评估 预测
from sklearn.datasets import load_iris
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.neighbors import KNeighborsClassifier
#1.加载数据集
iris_data=load_iris()
print(f'查看数据集\n{iris_data.feature_names}\n{iris_data.data[:10]}')
print(f'\n目标值-->\n{iris_data.target_names}\n{iris_data.target}')
#数据展示
def dm02_irisdata_show():
iris_df=pd.DataFrame(iris_data['data'],columns=iris_data.feature_names)
iris_df['target']=iris_data.target
print(iris_df)
feature_names=list(iris_data.feature_names)
print(feature_names)
for i in range(len(iris_data.feature_names)):
for j in range(i+1,len(iris_data.feature_names)):
col1=feature_names[i]
col2=feature_names[j]
sns.lmplot(x=col1,y=col2,hue='target',data=iris_df,fit_reg=False)
#plt.show()
plt.xlabel(col1)
plt.ylabel(col2)
plt.title(f'{col1} vs {col2}')
plt.show()
print(dm02_irisdata_show())
#3.数据基本处理
#数据划分
x_train,x_test,y_train,y_test=train_test_split(iris_data.data,iris_data.target,test_size=0.3,random_state=32)
print(x_train)
print(f'数据总数量-->{len(iris_data.data)}')
print(f'测试集数量-->{len(x_train)}')
print(f'测试集数量-->{len(x_test)}')
#4.特征处理
#数据标准化
transfer =StandardScaler()
x_train=transfer.fit_transform(x_train)
x_test=transfer.fit_transform(x_test)
#5.实例化
model=KNeighborsClassifier(n_neighbors=5)
#6.训练
model.fit(x_train,y_train)
#7.评估
#8.预测
mydata=[[5.1,3.5,1.4,0.2],[4.6,3.1,1.5,0.2]]
mydata=transfer.fit_transform(mydata)
predata=model.predict(mydata)
print(f'predata-->{predata}')
(1) (2) (3) (4)
(5) (6) 结果