2019-2-13-KNN算法

《机器学习之路》KNN算法部分代码：

import numpy as np # 快速操作结构数组的工具
import pandas as pd # 数据分析处理工具
import matplotlib.pyplot as plt # 画图工具
from sklearn import datasets # 机器学习库

#数据集 0-setosa、1-versicolor、2-virginica
scikit_iris = datasets.load_iris()
# 转换成pandas的DataFrame数据格式，方便观察数据
iris = pd.DataFrame(data=np.c_[scikit_iris['data'], scikit_iris['target']],
                     columns=np.append(scikit_iris.feature_names, ['y']))

# 检查数据是否有缺失
iris.isnull().sum()

# 观察样本中按类别数量是否比较均衡
iris.groupby('y').count()


# 选择全部特征训练模型
X = iris[scikit_iris.feature_names]
# label
y = iris['y']

# 第一步，选择model
from sklearn.neighbors import KNeighborsClassifier
knn = KNeighborsClassifier(n_neighbors=1)
# 第二步，fit X、y
knn.fit(X, y)
# 第三步，predict新数据
knn.predict([[3, 2, 2, 5],[1,2,3,4]])

 

分割数据集为训练集和测试集：

from sklearn.model_selection import train_test_split
from sklearn import metrics

# 分割训练-测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=4)

# K=15
knn = KNeighborsClassifier(n_neighbors=15)
knn.fit(X_train, y_train)

y_pred_on_train = knn.predict(X_train)
y_pred_on_test = knn.predict(X_test)
print(metrics.accuracy_score(y_train, y_pred_on_train))
print('accuracy: ：{}'.format(metrics.accuracy_score(y_test, y_pred_on_test)))

 

运用KNN模型

1.发扬KNN模型的特性

近邻分类的思路使KNN在近邻聚集比较好的数据任务重表现良好，也就是说，如果一个任务类别清洗。如一段文本是新闻还是娱乐，一般是很清晰的，可以考虑运用KNN；反之，如果任务类别不清晰，如预测用户是否点击一个事件，这是很随机的，或者在股票等混沌市场做一些预测，这种任务KNN表现一般不会太好。

2.规避工程中执行的短处

KNN的工程问题在于预测事件复杂度高，本书后面登场的参数化模型就没有这个问题。工程上在大数据量上使用KNN时，需要解决这一问题。对于稀疏特征值的数据，如词文本，可以考虑做索引表，记录词的出现位置，拿存储代价换计算代价：密集特征值数据可以考虑kd-tree等数据结构。

3.KNN的突破点

从KNN的近邻投票可以看出，优化模型时，突破口在于相似度的计算，就是如何合理地划分出近邻。根据数据任务特性，创意地设计相似度计算方式，可以使KNN模型发挥出惊人的力量。