机器学习实战（第二章KNN）

最新推荐文章于 2022-10-23 12:59:27 发布

qq_43116644

最新推荐文章于 2022-10-23 12:59:27 发布

阅读量136

点赞数

分类专栏：机器学习文章标签： KNN算法分类欧氏距离 Python实现数据挖掘

本文链接：https://blog.csdn.net/qq_43116644/article/details/123614647

版权

机器学习专栏收录该内容

2 篇文章 0 订阅

订阅专栏

KNN分类算法

设待分类的样本有A0,B0,C0三个特征，另一个带label的样本特征为A1,B2,C3.对两者求欧氏距离 $\sqrt{A0^{2}-A1^{2}+B0^{2}-B1^{2}+C0^{2}-C1^{2}}$ 得到两者的差距。对M个样本算距离选取前N个label数量最多的作为待分类样本的label

训练逻辑：将训练集的label和样本为测试集的待分类样本做预测，将预测结果与真实label对比得出准确度

def classify0(inX, dataSet, labels, k):
	#numpy函数shape[0]返回dataSet的行数
	dataSetSize = dataSet.shape[0]
	#在列向量方向上重复inX共1次(横向),行向量方向上重复inX共dataSetSize次(纵向)
	diffMat = np.tile(inX, (dataSetSize, 1)) - dataSet
	#二维特征相减后平方
	sqDiffMat = diffMat**2
	#sum()所有元素相加,sum(0)列相加,sum(1)行相加
	sqDistances = sqDiffMat.sum(axis=1)
	#开方,计算出距离
	distances = sqDistances**0.5
	#返回distances中元素从小到大排序后的索引值
	sortedDistIndices = distances.argsort()
	#定一个记录类别次数的字典
	classCount = {}
	for i in range(k):
		#取出前k个元素的类别
		voteIlabel = labels[sortedDistIndices[i]]
		#dict.get(key,default=None),字典的get()方法,返回指定键的值,如果值不在字典中返回默认值。
		#计算类别次数
		classCount[voteIlabel] = classCount.get(voteIlabel,0) + 1
	#python3中用items()替换python2中的iteritems()
	#key=operator.itemgetter(1)根据字典的值进行排序
	#key=operator.itemgetter(0)根据字典的键进行排序
	#reverse降序排序字典
	sortedClassCount = sorted(classCount.items(),key=operator.itemgetter(1),reverse=True)
	print(sortedClassCount)
	#返回次数最多的类别,即所要分类的类别
	return sortedClassCount[0][0]