K最近邻(k-Nearest Neighbor,KNN)分类算法,最简单的机器学习算法之一
定义:如果一个样本在特征空间中的K个最相似(即特征空间中最邻近)的样本种大多数属于某一个类别,则该样本也属于这个类别。
用欧氏距离求两点之间的距离:
需要做标准化处理,
下载数据集:https://www.kaggle.com/c/facebook-v-predicting-check-ins
与预测有关系的是: xy坐标 精度 (时间戳(有可能当时周围酒店住满了,需要换下一个位置),日,时,周)
目标:入住位置ID
1.把样本量缩小一点 0<x<10 0<y<10
2.时间戳要处理,转换成年月日周时分秒,当做新的特征
3.类别很多 ,几千几万,可以删除常年不常入住的酒店
pandas的query()方法是基于DataFrame列的计算代数式,对于按照某列的规则进行过滤的操作,可以使用query方法。
在方法里直接写条件
pandas.to_datetime将参数转换为日期时间
pd.DatetimeIndex() 该列时间戳设置为索引
pd.drop()删除一列
sklearn里axis=0 是列,而在pandas里,axis=1 是列
from sklearn.preprocessing import StandardScaler
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
import pandas as pd
def knncls():
"""
K近邻算法预测入住
:return:None
"""
#获取数据
data = pd.read_csv("./train.csv")
# print(data.head(10))
#缩小数据量,查询数据筛选
data = data.query("x>1.0 & x<1.25 & y>2.5 & y>2.75") #刚好组成正方形
time_value = pd.to_datetime(data['time'], unit='s')
#把日期格式转换成字典格式
time_value = pd.DatetimeIndex(time_value)
#构造一些特征,提取天加入到data_sample的列里面
data['day'] = time_value.day
data['hour'] = time_value.hour
data['weekday'] = time_value.weekday
#删除时间戳保留 天 时 周
data = data.drop(['time'], axis=1)
print(data)
#将签到数量少于n个的删除
place_count = data.groupby('place_id').count()
tf = place_count[place_count.row_id >3].reset_index()
data = data[data['place_id'].isin(tf.place_id)]
#取出数据中的特征值和目标值
y = data['place_id'] #先把目标值拿出来
x = data.drop(['place_id'], axis=1)
#进行数据的分割成 训练集和测试集
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)
#特征工程(标准化) ,训练集和测试集的特征值都要做标准化
std = StandardScaler()
x_train = std.fit_transform(x_train)
x_test = std.fit_transform(x_test)
knn = KNeighborsClassifier(n_neighbors=5)
#输入训练集构建模型
knn.fit(x_train, y_train)
#得出预测结果
y_predict = knn.predict(x_test)
print('预测的未知ID为', y_predict)
#得到准确率
print("获得预测的准确率", knn.score(x_test, y_test))
return None
if __name__ =="__main__":
knncls()
预测的未知ID为 [1557907710 2099677536 1120824422 ... 2019472354 2106470741 4377558379]
获得预测的准确率 0.06646671493087876
二、K近邻算法的总结
K值很小时,和想要预测的目标 距离最近的点就是它的类别,容易受到异常点 的影响
K值很大时,容易受K值数量(类别)波动、