k近邻算法_K近邻算法（一）

k-近邻算法是采用不同特征之间的距离方法进行分类。

优点：精度高、对异常值不敏感、无数据输入假定

缺点：计算复杂度高、空间复杂度高

k-近邻算法的一般流程

(1)收集数据集：可以使用任何方法

(2)准备数据集：距离计算所需要的数值，最好是结构化的数据格式

(3)分析数据：可以使用任何方法

(4)训练数据集：此步骤不适用与k-近邻算法

(5)测试算法：计算错误率

(6)使用算法：首先需要输入样本数据和结构化输出结果，然后运行k-近邻算法判断输入数据分别属于那个分类，最后应用对计算出的分类执行后续的处理。

2.1.1 准备：使用Python导入数据

#createDataSet()

2.1.2 实施K-近邻算法

K-近邻算法的伪代码：

对未知属性集中的每个点依次执行以下操作：

(1)计算已知类别数据中心的点与当前点之间的距离

(2)按照距离递增次序排序

(3)选取与当前点距离最最小的K个点

(4)确定当前k个点所在类别的出现频率

(5)返回前k个点出现频率最高的类别作为当前点的预测分类

#K-近邻算法

2.1.3 通过学习函数理解K-近邻算法

看了上述KNN的实现，可能大家还是一头雾水，因为其中用到了很多内嵌函数，所以下面我们就先来学习这些内嵌函数。

1.tile函数

函数形式是tile(A，reps)
A的类型几乎所有类型都可以：array,list,tuple,dict,matrix以及基本的数据类型int,string,float,bool等。
reps的类型可以使tuple,list,dict,array,int,bool但不可以是float,string,matrix。

import 

2.shape函数

功能是读取矩阵的长度，输入参数可以是一个整数表示维度，也可以是一个矩阵。
举例说明：

import 

3.sum函数

sum(a,axis=0)或者sum(axis=1)
axis=0就是普通的相加，axis=1则是将一个矩阵的每一行向量相加
举例说明：

import 

4.argsort函数

返回数组值从小到大的索引值
举例说明：

import 

参考链接

《机器学习实战》

Python中的tile函数，shape函数，sum函数，argsort函数,Python交流,技术交流区,鱼C论坛 - Powered by Discuz!

(出处: 鱼C论坛)

转了吗 赞了吗 在看吗