K—近邻算法：鸢尾花种类预测

1.一直迷迷糊糊的训练集特征值、目标值和测试集特征值和目标值解析

        比如一个学生期末成绩有数学、语文、英语、科学四门成绩，最后一栏有老师打的综合成绩评估优秀、良好、及格。现在我们知道了全校1000个学生的所有数据。

        根据现在的问题，特征值就是数学、语文、英语、科学四门成绩，目标值就是老师打的综合成绩就是目标值。现在我们假如拿出800个学生的成绩作为训练集，200个学生的成绩作为测试集。这200个学生的目标值（综合成绩评估）假设不知道，训练集就是利用这800个学生的成绩和综合评估训练出一个模型。下一步就是利用那200个作为测试集的学生的四门课的成绩，对照模型，得出最后的综合成绩评估，也就是测试集的目标值。这就是训练集特征值、目标值和测试集特征值和目标值的简单说明。

2.fit,transform,fit_transform常用情况分为两大类

1. 数据预处理中方法
fit(): Method calculates the parameters μ and σ and saves them as internal objects.
解释：简单来说，就是求得训练集X的均值，方差，最大值，最小值,这些训练集X固有的属性。

transform(): Method using these calculated parameters apply the transformation to a particular dataset.
解释：在fit的基础上，进行标准化，降维，归一化等操作（看具体用的是哪个工具，如PCA，StandardScaler等）。

fit_transform(): joins the fit() and transform() method for transformation of dataset.
解释：fit_transform是fit和transform的组合，既包括了训练又包含了转换。
transform()和fit_transform()二者的功能都是对数据进行某种统一处理（比如标准化~N(0,1)，将数据缩放(映射)到某个固定区间，归一化，正则化等）

fit_transform(trainData)对部分数据先拟合fit，找到该part的整体指标，如均值、方差、最大值最小值等等（根据具体转换的目的），然后对该trainData进行转换transform，从而实现数据的标准化、归一化等等。

3.距离度量

欧式距离、曼哈顿距离、切比雪夫距离、闵可夫斯基距离、标准化欧式距离、余弦距离、汉明距离

杰卡德距离、马氏距离

鸢尾花种类预测函数详细解析：

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.neighbors import KNeighborsClassifier
# 1.获取数据集，load_iris是小数据集
iris = load_iris()
# 2.数据基本处理
# x_train,x_test,y_train,y_test为训练集特征值、测试集特征值、训练集目标值、测试集目标值
# test_size是对整个数据集进行划分，0.3表示有30%的数据作为测试集数据
# random_state为随机数种子
x_train, x_test, y_train, y_test = train_test_split(iris.data, iris.target, test_size=0.3,random_state=22)
# 3、特征工程：标准化
# 实例化一个转换器，这里是用标准化的方法对数据进行处理
transfer = StandardScaler()
x_train = transfer.fit_transform(x_train)
x_test = transfer.fit_transform(x_test)
# 4、机器学习(模型训练)
# 实例化一个估计器，n_neighbors表示有几个邻居，就是哪出几个数据进行对比
estimator = KNeighborsClassifier(n_neighbors=9)
# 进行模型训练
estimator.fit(x_train, y_train)
# 5、模型评估
# 方法1：比对真实值和预测值
# 利用测试集的特征值和模型预估出测试集的目标值
y_predict = estimator.predict(x_test)
print("预测结果为:\n", y_predict)
# y_test是测试集的目标值
print("比对真实值和预测值：\n", y_predict == y_test)
# 方法2：直接计算准确率
score = estimator.score(x_test, y_test)
print("准确率为：\n", score)