用c语言实现knn算法要有训练集和测试集,KNN算法实战：手写字体识别

我们已经知道手写字体数据集是一个8×8的矩阵，共有64个特征。让我们看一下K最近邻算法对手写字体数据集处理的效果。

1) 导入相关包

这里我们将用到 datasets 中的手写字体数据，使用 train_test_split 进行训练集和测试集的分割，然后使用 KNeighborsClassifier 进行分类。

In [1]: from sklearn import datasets

...: from sklearn.model_selection import train_test_split

...: from sklearn.neighbors import KNeighborsClassifier

2) 获得手写字体数据集

In [2]: digits = datasets.load_digits()

3) 将手写字体数据集赋值给X

这里注意赋值的是“data”，而不是“images”。“data”已经将图片处理成数字。

In [3]: X = digits.data

4) 将目标变量赋值给y

In [4]: y = digits.target

5) 分割数据集

分别抽样选出训练集和测试集，这里我们将测试集的比重设置为20%。

In [5]: X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

6) 新建分类器模型

k 值选择 3。

In [6]: kNN_classifier = KNeighborsClassifier(n_neighbors=3) #k值选择3

7) 将模型应用到训练集上

In [7]: kNN_classifier.fit(X_train, y_train)

Out[7]:

KNeighborsClassifier(algorithm='auto', leaf_size=30, metric='minkowski',

metric_params=None, n_jobs=1, n_neighbors=3, p=2,

weights='uniform')

8)  对测试集进行预测并且打分

In [8]: kNN_classifier.score(X_test,y_test)

Out[8]: 0.9916666666666667