机器学习实战-KNN算法代码解析

最近在看《机器学习实战》一书中对与KNN的实现，下面对代码中需要讲解的函数进行分析

KNN实现代码如下：

from numpy import *
import operator
def createDataSet():
    group=array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]])
    lables=['A','A','B','B']
    return group, lables
group, lables=createDataSet()
print(group,lables)
datasetsize=group.shape[0] #返回第一维大小
print(datasetsize)
diffmat=tile([0,0],(datasetsize,1))-group
print(diffmat)
sqDiffMat=diffmat**2
sqDistances=sqDiffMat.sum(axis=1)
print(sqDiffMat,sqDistances)
distance=sqDistances**0.5
print(distance)
sortedDistIndices=distance.argsort()

#从小到大排列输出对应的索引

print(sortedDistIndices)
classCount={}
for i in range(3):
    voteIlabel=lables[sortedDistIndices[i]]
    classCount[voteIlabel]=classCount.get(voteIlabel,0)+1

#dict,get函数get(key,0)第一个参数为指定的键，第二个参数为若指定的键不存在的返回值。
print(classCount) 

sortedClassCount=sorted(classCount.items(),key=operator.itemgetter(1),reverse=True)

#sorted（） dict.items()遍历字典 ，key=operator.itemgetter(),在第几个维度进行排序，reverse=True，False，True为正序，False为逆序。

print(sortedClassCount[0][0])
    
这是最简单的KNN算法实现，代码主要涉及一些对字典、数组排序操作

其中argsort()函数对排序结果的索引进行输出，排列顺序为从小到大。

例：输入：[1.48660687 1.41421356     0.       0.1      ]
       输出：[2 3 1 0]

.get(key，value)第一个参数为指定的键，若字典中存在该键，则返回对应的值，若不存在则返回value，默认为None。

sorted(dict.items(),key=operator.itemgetter(),reverse=True), dict.items()作用为遍历字典 ，key=operator.itemgetter(),在第几个维度进行排序，reverse=True，True为正序，False为逆序。