Sklearn 中的KNN分类器

Sklearn 中的KNN分类器

在机器学习领域，KNN是一种广泛应用且易于实现的算法。它基于简单的原理，通过测量新样本与已知样本之间的距离，找出距离最近的k个邻居，并根据这些邻居的属性对新样本进行分类。本文将介绍如何使用Python中的sklearn库实现knn分类器。

一、数据准备阶段

首先，我们先使用sklearn.datasets中的make_blobs准备一些数据

代码如下：

from sklearn.datasets import make_blobs
X,y = make_blobs(n_features=2,n_samples=100,centers=3,random_state=46)

接下来，对我们所生成的数据进行可视化，可直观的反映出数据的特征。

# 数据可视化
import matplotlib.pyplot as plt
%matplotlib inline
plt.scatter(X[:,0],X[:,1],c=y,cmap=plt.cm.spring,edgecolor='k')

二、Sklearn 中的KNN分类器

准备好我们的数据之后，我们可以导入KNN分类器，并对模型进行训练啦

代码如下：

#导入KNN分类器
from sklearn.neighbors import KNeighborsClassifier

导入KNN分类器后，我们需对其进行实例化，在实例化中，我们需知道模型有以下参数：

• n_neighbors=5
• weights = 'uniform’等比重 'distance’按距离反比投票 ’ [callable]
• algrithm='auto’自动选择合适算法 ‘ball_tree’：球树 ‘brute’:暴力搜索
• leaf_size=30
• matric = 'minkowski’度量距离的方法
• p=2 距离参数，默认为2，即欧式距离。 p=1代表曼哈顿距离
• metric_params=None
• n_jobs=1 计算的线程数量

大家可以试着调整自己模型的参数进行训练，本文采用默认参数条件下的模型。

训练过程:

#KNN分类器实例化
clf = KNeighborsClassifier()
#模型训练
clf.fit(X,y)
#训练结果可视化
x_min, x_max = X[:, 0].min() - 1,X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1,X[:, 1].max() + 1

xx,yy = np.meshgrid(np.arange(x_min,x_max, .02),
                   np.arange(y_min,y_max, .02))
Z = clf.predict(np.c_[xx.ravel(),yy.ravel()])
Z = Z.reshape(xx.shape)
plt.pcolormesh(xx,yy,Z,cmap=plt.cm.Pastel1)
plt.scatter(X[:,0],X[:,1],c=y,cmap=plt.cm.spring,edgecolor='k')
plt.xlim(xx.min(),xx.max())
plt.ylim(yy.min(),yy.max())
plt.title("Classifier:KNN")

运行代码，其结果为：

由数据可视化的结果，可见此数据集采用KNN进行训练的效果很好。

三、模型评估

对模型评估可采用以下方法：

# 模型评估
print('模型正确率：{:.2f}'.format(clf.score(X,y)))

运行结果，就可得到模型评估的结果啦！

四、KNN实战葡萄酒分类

学习了以上内容，我们可以采用KNN进行实战咯，本文将对葡萄酒数据集进行分类

首先导入必要的库

import numpy as np
import matplotlib.pyplot as plt
from matplotlib.colors import ListedColormap
from sklearn import neighbors, datasets
from sklearn.model_selection import train_test_split

具体操作如下：

#导入数据集
wine = datasets.load_wine()

#划分训练集与测试集
X_train,X_test,y_train,y_test = train_test_split(wine.data[:,:2],wine.target,random_state = 42)

#KNN模型实例化
clf = KNeighborsClassifier()

#模型训练
clf.fit(X_train,y_train)

#模型评估
print('测试集模型评分：{:.2f}'.format(clf.score(X_test,y_test)))
print('训练集模型得分：{:.2f}'.format(clf.score(X_train,y_train)))

#对新酒进行预测
X_new = np.array([[13.2,2.77]])
prediction = clf.predict(X_new)
print("预测新红酒的分类为：{}".format(wine['target_names'][prediction]))

好啦，以上就是本文的全部内容，感谢大家的阅读！如有疑问，欢迎大家对文章内容进行指正。