python实现knn算法，并采用鸢尾花数据集验证

一、knn算法介绍

（1）邻近算法

或者说K最近邻(kNN，k-NearestNeighbor)分类算法是数据挖掘
分类技术中最简单的方法之一。所谓K最近邻，就是k个最近的邻居的
意思，说的是每个样本都可以用它最接近的k个邻居来代表。

（2）主要思路

1. 准备数据，对数据进行预处理

2. 选用合适的数据结构存储训练数据和测试元组

3. 设定参数，如k

4.维护一个大小为k的的按距离由大到小的优先级队列，用于存储
最近邻训练元组。随机从训练元组中选取k个元组作为初始的最近
邻元组，分别计算测试元组到这k个元组的距离，将训练元组标号
和距离存入优先级队列

5. 遍历训练元组集，计算当前训练元组与测试元组的距离，将所
得距离L 与优先级队列中的最大距离Lmax

6. 进行比较。若L>=Lmax，则舍弃该元组，遍历下一个元组。若
L < Lmax，删除优先级队列中最大距离的元组，将当前训练元组
存入优先级队列。

7. 遍历完毕，计算优先级队列中k 个元组的多数类，并将其作为
测试元组的类别。

8. 测试元组集测试完毕后计算误差率，继续设定不同的k值重新
进行训练，最后取误差率最小的k值。

二、算法设计

（1）算法流程图

(2)算法实现

# -*- coding: utf-8 -*-
"""
@author: BaoHJ
"""
# 模仿sklearn 形式封装

from sklearn.datasets import load_iris  # 导入数据集iris
import math
from collections import Counter
import numpy as np


class K_NN:
    '''初始化'''
    def __init__(self