kNN实现手写数字识别

一、数据准备

我们这里准备的是已经处理好的手写数字图像为32*32的二进制图像。

首先，我们需要将32*32的二进制图像矩阵转化为1*1024的向量，这里我们通过函数img2vector实现。

# 将text文件里面32*32的矩阵转化为1*1024的向量
def img2vector(filename):
    returnVector = np.zeros((1, 1024))
    fr = open(filename)
    for i in range(32):
        lineStr = fr.readline()
        for j in range(32):
            returnVector[0, 32 * i + j] = int(lineStr[j])
    return returnVector

我们通过循环矩阵，将矩阵的每一行拼接在一起，得到一个1*1024的向量。每个二进制32*32图像如图所示。

 二、数字分类算法

        我们通过sklearn包提供的kNN算法直接实现，我需要制作好标签集，并且导入测试数据集。详细操作原理在代码中有注释说明。

# 手写数字分类
def handwritingClassTest():
    # hwLabels是training数据集的标签
    hwLabels = []
    # 通过os的listdir()方法将所指定的文件夹内的所有文件名字作为一个列表返回
    trainingFileList = listdir('Include/trainingDigits')
    # 用m作为training数据集的个数
    m = len(trainingFileList)
    # 设置一个m行1024列的零矩阵
    trainingMat = np.zeros((m, 1024))
    # 将返回回来的文件名列表取第一个字符组成hwLabels标签集
    for i in range(m):
        # 取列表第一个元素
        fileNameStr = trainingFileList[i]
        # 取第一个字符
        classNumber = int(fileNameStr.split('_')[0])
        # 加入到hwLabels列表中
        hwLabels.append(classNumber)
        #将每个数字返回来的1*1024列表存入trainingMat矩阵中
        trainingMat[i, :] = img2vector('Include/trainingDigits/%s' % (fileNameStr))
    # 构建kNN分类器neigh，n_neighbors为节点数（默认为5），algorithm为算法（默认为auto）
    neigh = kNN(n_neighbors=3, algorithm='auto')
    # 将数据导入分类器neigh
    neigh.fit(trainingMat, hwLabels)
    # 跟之前一样将测试集导入进来
    testFileList = listdir('Include/testDigits')
    # 设置一个计数器，统计错误分类个数。
    errorCount = 0.0
    # 得到测试集的长度大小
    mTest = len(testFileList)
    # 用count记录分类错误的几个数字
    count=[]
    for i in range(mTest):
        fileNameStr = testFileList[i]
        # 制作测试集的标签集
        classNumber = int(fileNameStr.split('_')[0])
        vectorUnderTest = img2vector('Include/testDigits/%s' % (fileNameStr))
        # 使用模型对测试集分类
        classifierResult = neigh.predict(vectorUnderTest)
        print("分类结果为：{}\t真实结果为{}".format(classifierResult, classNumber))
        if (classifierResult != classNumber):
            errorCount += 1.0
            count.append(i)
    print("总共错了{}个数据\n错误率为：{}".format(errorCount, errorCount / mTest * 100))
    print("识别错误的为："+count)

 三、调用函数实现显示

if __name__ == '__main__':
    handwritingClassTest()

这里我们需要提到的是我们在前期需要导入的包，因为涉及到对文件夹文件名字的访问，这里需要导入os包，我们需要用kNN分类器，需要导入listdir包，我们需要对矩阵进行操作我们需要导入numpy和operator包

import sklearn
import numpy as np
import operator
from os import listdir
from sklearn.neighbors import KNeighborsClassifier as kNN

四、分类结果展示

 一共只有12个数据分类错误，错误率为1.27%左右。