通过knn进行分类,解决kaggle手写数字识别问题,准确率达到百分之96.8,由于算法限制,要想进一步提高需要使用cnn
knn主函数,很短的代码就能实现,通过计算inx距离dataSet中所有数据的距离选取最近的k个,然后找到k个中所占最多的类别。
from numpy import *
import operator
def classify0(inx,dataSet,labels,k):
dataSetSize = dataSet.shape[0]
#inx初始是1行的数组,通过tile函数进行数组广播,把数组变成行数和dataSet行数相等
#对应位置相减之后通过平方测量距离
diffMat = tile(inx,(dataSetSize,1))-dataSet
sqDiffMat = diffMat ** 2 #平方距离
sqDistance = sqDiffMat.sum(axis=1) #axis=0列 axis=1横
distances = sqDistance ** 0.5 #开根号
sortedDistances = distances.argsort() #numpy.argsort() 函数返回的是数组值从小到大的索引值。
classCount = {
}
#依据排序顺序从近到远依次查看k个样例,记录类别和数量
for i in range (k):
voteLebel = labels