声明:小编使用的是飞桨平台(AI Studio)
任务:
- 基于iris.csv数据(鸢尾花数据集),建立KNN模型实现数据分类(n_neighbors=3)
- 对数据进行标准处理,选取一个维度可视化处理后的效果
- 进行与原数据等维度PCA,查看各成分的方差比例
- 保留合适的主成分,可视化降维后的数据
- 基于降维后数据建立KNN模型,与原数据表现进行对比
部分数据展示:
代码展示:
#加载数据
import pandas as pd
import numpy as np
data = pd.read_csv('iris.csv',encoding="utf-8")
data.head()
#定义 X 和 y
X = data.drop(['class'],axis=1)
y = data.loc[:,'label']
y.head()
#实现KNN模型训练
from sklearn.neighbors import KNeighborsClassifier
KNN = KNeighborsClassifier(n_neighbors=3)
KNN.fit(X,y)
y_predict = KNN.predict(X)
#计算模型准确度
from sklearn.metrics import accuracy_score
accuracy = accuracy_score(y,y_predict)
print(accuracy)
#数据的标准化处理
from sklearn.preprocessing import StandardScaler
X_norm = StandardScaler().fit_transform(X)
print(X_norm)
#选定sepal_length一个维度计算标准化处理后的均值和方差
x1_mean = X.loc[:,'sepal_length'].mean()
x1_norm_mean = X_norm[:,0].mean()
x1_sigma = X.loc[:,'sepal_length'].std()
x1_norm_sigma = X_norm[:,0].std()
print(x1_mean,x1_sigma,x1_norm_mean,x1_norm_sigma)
#选取一个维度可视化处理后的效果
from matplotlib import pyplot as plt
fig1 = plt.figure(figsize=(12,3 ))
plt.subplot(121)
plt.hist(X.loc[:,'sepal_length'],bins=100)
plt.subplot(122)
plt.hist(X_norm[:,0],bins=100)
plt.show()
#PCA降维
from sklearn.decomposition import PCA
pca = PCA(n_components=4)
X_pca = pca.fit_transform(X_norm)
#计算方差比例
var_ratio = pca.explained_variance_ratio_
print(var_ratio)
#可视化方差比例
fig = plt.figure(figsize=(10,5))
plt.bar([1,2,3,4],var_ratio)
plt.xticks([1,2,3,4],["PCA1","PCA2","PCA3","PCA4"])
plt.show()
#选取前两个方差比例最大的维度
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_norm)
X_pca.shape
#可视化PCA结果
fig3 = plt.figure(figsize=(10,10))
setosa = plt.scatter(X_pca[:,0][y==0],X_pca[:,1][y==0])
ver = plt.scatter(X_pca[:,0][y==1],X_pca[:,1][y==1])
vir = plt.scatter(X_pca[:,0][y==2],X_pca[:,1][y==2])
plt.legend((setosa,ver,vir),('SETOSA','VERSICOLOR','VIRGINICA'))
#基于降维后数据建立KNN模型并计算准确度
KNN = KNeighborsClassifier(n_neighbors=3)
KNN.fit(X_pca,y)
y_predict = KNN.predict(X_pca)
from sklearn.metrics import accuracy_score
accuracy = accuracy_score(y,y_predict)
print(accuracy)
截图展示效果:
对比降维前和降维后的模型准确度,分别是1.0和0.9333…,可见降维后的数据仍能反应数据的主要特征。
百度网盘空间满了,数据传不上去无法给大家分享了,想要数据集练习的私信我,一定给你们发