背景
机器学习中,针对某一任务(回归、分类等)往往有很多的模型,通过交叉验证可以度量不同模型的模型指标,如针对二分类模型,可以使用precision(预测精度)、recall(召回率)、f1-score(F1 分数值)等度量模型效果。
本文实现使用多个模型DecisionTreeClassifier、LogisticRegression、RandomForestClassifier对一个二分类模型进行交叉验证,得到不同模型的多个指标的对比,通过条形图可视化展示。
交叉验证对不同模型进行评估
针对二分类问题,使用了precision(预测精度)、recall(召回率)、f1-score(F1 分数值),roc_auc对模型效果进行评估。
from sklearn.model_selection import StratifiedKFold, KFold
from sklearn.tree import DecisionTreeClassifier
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import cross_validate
def cat_cv_model(train_x, train_y,clf_name):
folds, seed = 5, 42
# 分层划分 5 个 Fold
cv_scores = []
cv = KFold(n_splits=5,shuffle=True,random_state=seed) #实例化交叉验证方式
if clf_name == "RandomForestClassifier":
clf = RandomForestClassifier()
if clf_name == "DecisionTreeClassifier":
clf = DecisionTreeClassifier()
if clf_name == "logistic":
clf = LogisticRegression()
result_t = cross_validate(clf #要进行交叉验证的评估器
,train_x,train_y #数据
,cv=cv #交叉验证模式
,scoring=["f1","recall","precision","roc_auc"]
,return_train_score=True #是否返回训练分数
,verbose=True #是否打印进程
,n_jobs=-1 #线程数
)
return result_t
模型训练得到评估指标
对每个模型的交叉验证结果求均值代表模型效果。
result_r = cat_cv_model(features,labels,"RandomForestClassifier")
result_d = cat_cv_model(features,labels,"DecisionTreeClassifier")
result_l = cat_cv_model(features,labels,"logistic")
Result = dict()
Result['RandomForestClassifier'] = pd.DataFrame(result_r).mean().values
Result['DecisionTreeClassifier'] = pd.DataFrame(result_d).mean().values
Result['logistic'] = pd.DataFrame(result_l).mean().values
Result = pd.DataFrame(Result)
Result.index = result.keys()
可视化:使用pandas.plot()对评估指标绘制条形图
更多pandas.plot()可视化设置可以参考:https://blog.csdn.net/h_hxx/article/details/90635650
plt.style.use('fivethirtyeight')
fig = plt.figure(figsize=(16,12))
ax1 = fig.add_subplot(211)
Result.iloc[np.arange(3,10,2),:].plot(kind = 'bar',title = "Train_metric",fontsize = 18,rot=360,ax=ax1)
#rot : int, default None#设置轴标签(轴刻度)的显示旋转度数
#fontsize : int, default None#设置轴刻度的字体大小
plt.legend(loc="upper left")
ax2 = fig.add_subplot(212)
Result.iloc[np.arange(2,9,2),:].plot(kind = 'bar',title = "Test_metric",fontsize = 18,rot=360,ax=ax2)
plt.legend(loc="upper left")
plt.tight_layout()
plt.show()
绘制结果: