【机器学习】分类模型的评估、模型的选择与调优 No.10

一、分类模型的评估

1、分类模型的评估

（1）准确率

     estimator.score() :一般最常见使用的是准确率，即预测结果正确的百分比。

（2）精确率和召回率

2、分类模型评估API

Sklearn.metrics.classification_report

 

二、模型的选择与调优

1、交叉验证

目的：为了让被评估的模型更加准确可信

交叉验证：将训练集数据分成n等分，将其中一份为验证集，其余为训练集。经过n次测试，得到n组模型结果，然后进行取平均值为最终结果。又称为n折交叉验证。

2、网格搜索

（1）网格搜索也称为超参数搜索，通常情况下，很多参数需要手动指定（如：k-近邻算法中k值），这种参数叫做超参数。但是手动调整参数繁杂，所以需要对模型预设几种超参数组合。每组超参数都采用交叉验证进行评估。最后选出最优参数组合建立模型。

（2）网格搜索API

sklearn.model_selection.GridSearchCV

3、K近邻算法调优

from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
import pandas as pd
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import GridSearchCV
def knncls():
    '''
    K-近邻预测用户签到位置(算法调优)
    :return: None
    '''
    # 读取数据
    data = pd.read_csv("C:\\Users\\Administrator\\Desktop\\机器学习\\train.csv")

    # 处理数据
    # 1、缩小数据,查询筛选
    data = data.query("x>1.0 & x<1.25 & y>2.5 & y<2.75" )
    # 2.转换时间戳
    time_value = pd.to_datetime(data['time'],unit='s')
    # 把日期格式转换成字典格式
    time_value = pd.DatetimeIndex(time_value)
    # 构造特征
    data['day'] = time_value.day
    data['hour'] = time_value.hour
    data['weekday'] = time_value.weekday

    # 删除原有时间戳特征(按列删除，pandas中用1表示列)
    data = data.drop(['time'], axis=1)

    # 删除无用row_id
    data = data.drop(['row_id'], axis=1)

    # 把签到的数量少于n个的目标位置删除
    place_count = data.groupby('place_id').count()
    tf = place_count[place_count.row_id>3].reset_index()
    data = data[data['place_id'].isin(tf.place_id)]

    #  取出数据中的目标值和特征值
    y = data['place_id']
    x = data.drop(['place_id'],axis=1)

    # 分割训练集和测试集
    x_train,x_test,y_train,y_test = train_test_split(x, y, test_size=0.25)

    # 特征工程（标准化）
    std = StandardScaler()
    # 对测试集合训练集的特征值进行标准化
    x_train = std.fit_transform(x_train)
    x_test = std.fit_transform(x_test)

    # 进行算法流程
    # knn = KNeighborsClassifier(n_neighbors=5)

    # knn.fit(x_train,y_train)
    # # 得到预测结果
    # y_predict = knn.predict(x_test)
    # print("预测的目标签到位置：",y_predict)
    # # 得出准确率
    # print("预测的准确率：",knn.score(x_test,y_test))

    knn = KNeighborsClassifier()
    #  构造一些参数的值进行搜索
    param = {'n_neighbors':[3,5,10]}

    # 进行网格搜索
    gc = GridSearchCV(knn, param_grid=param, cv=2)
    gc.fit(x_train, y_train)

    print("预测的准确率：", gc.score(x_test, y_test))
    print("在交叉验证中最后的验证结果： ",gc.best_score_)
    print("选择最好的模型是： ", gc.best_estimator_)
    print("每个超参数每次验证的结果： ", gc.cv_results_)

    return None