机器学习-knn近邻分类算法

# 算法原理
本质是通过距离（欧式距离）判断两个样本是否相似，如果距离够近就认为他们足够相似属于同一类别
###算法优缺点：主要参数k(标记数据周围几个数作为参考对象，需要根据数据来决定)
    k值越大，模型偏差大，对噪声数据不敏感。可能造成欠拟合
    k值越小，模型方差就会越大，容易过拟合。
算法变种一：针对不同距离的邻居指定不同的距离权重，通常距离越近权重越高，通过weights参数来实现。
算法变种二：使用一定半径内的点取代距离最近的k个点
    在scikit_learn中，RadiusNeighborsClassifiter 实现了这种算法，当数据采样不均匀时，这种算法性能更好。
   
#案例实现
##导入相关包
###全部行都能输出
from IPython.core.interactiveshell import InteractiveShell
InteractiveShell.ast_node_interactivity="all"

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
#解决坐标轴刻度负号乱码
plt.rcParams['axes.unicode_minus']=False
#解决中文乱码
plt.rcParams['font.sans-serif']=['simhei']
#设置背景样式
plt.style.use('ggplot')

#构建分类好的原始数据集
#先随机设置10个样本点表示10杯酒，为方便验证使用dict构建数据集，
#然后转化为DataFrame格式
rowdata = {'颜色深度':[14.23,13.2,13.16,14.37,13.24,12.07,12.43,11.79,12.37,12.04],
          '酒精浓度':[5.64,4.38,5.68,4.80,4.32,2.76,3.94,3.1,2.12,2.6],
          '品种':[0,0,0,0,0,1,1,1,1,1]}
#0 代表黑皮诺品种，1代表赤霞珠
wine_data = pd.DataFrame(rowdata)
wine_data

#特征作为x,y作为标签（类别）
x = np.array(wine_data.iloc[:,0:2])#这为什么要把dataframe转为一维数组,因为只需要里面的数值，不需要索引
y = np.array(wine_data.iloc[:,-1])
#探索，假如给出新的数据，判断红酒的类别
new_data = np.array([12.03,4.1])
#画出标签y=1的赤霞珠的散点图
plt.scatter(x[y==1,0], x[y==1,1],color='red',label='赤霞珠')
#方括号内为列表表达式，x是一维数组，取x数组的横坐标和纵坐标。
plt.scatter(x[y==0,0],x[y==0,1],color='purple',label='黑皮诺')
plt.scatter(new_data[0],new_data[1],color='yellow')
new_data
plt.xlabel('酒精浓度')
pl