机器学习：KNN归类算法实现验证码识别

算法简介

KNN（K Nearest Neighbor）是机器学习中非常经典的，同时也容易理解的算法。与K-Means算法用于聚类不同的是，KNN是为事物的归类而生的。简单地说，就是知道一批事物的数据特征及各自所属的分类，来根据一个新事物的数据特征来判断其最大可能归属于其中的哪一类的过程。这个判断依据即是计算欧式距离，得到新数据特征向量与原有数据特征向量距离最小的前K个事物所属的分类，得到的这些分类中哪一个分类数量最多则将新事物归于此类。
可以看出，通过KNN准确的判断一个事物的分类，我们需要对事物进行建模，尽可能将具有影响因素的数据特征提取出来，进而向量化以便后续距离的计算。我们将已知分类的数据样本空间，称为training data。样本空间越大，每个数据的数据特征越多，都可能让我们更准确的确定新事物的归类。当然，这样也会带来时间和空间的复杂度提高的问题。

验证码识别

数据获取

爬虫

我们知道，输入验证码是很多登陆网站的一个必要过程，验证码常常以图片的格式呈现。我们可以通过爬虫将验证码批量下载下来，这里就不细说了。

图片字符化

图片字符化是一个有趣的玩法，例如一只肥嫩嫩的Husky：

又或者是一枚可爱的姑娘：

为了方便算法实现，我们这里只进行阿拉伯数字的验证码的识别。为了控制复杂度同时可以较好表达数据特征，我们确定取32*32个0或1来代表一个阿拉伯数字，则数字2可以转化成如下格式：

数据向量化

为了后续算法计算欧式距离的方便，我们可以把数据向量化，将其转换到一维空间。一共32*32=1024个数据特征，每个数据特征取值即为0或1。由于文件格式如下：

所以，可以编程如下：

#KNN.py
from numpy import *
import