datawhale数据挖掘任务六

通过之前的博客可以看出，随机森林的表现效果比较好。所以本次stacking融合的比较基准就是LR。至于融合，用的是随机森林和逻辑回归进行融合。

代码为：

##任务六：使用stacking进行模型融合
# 构建 Stacking 模型，用之前表现较好的LR和随机森林进行模型融合
s_clf = StackingClassifier(classifiers=[rfc, ltc], meta_classifier=ltc, use_probas=True, verbose=3) 
s_clf.fit(X_train, y_train)

model_metrics(s_clf, X_train, X_test, y_train, y_test)

 

结果如下：

[LibLinear]准确性：
Train：0.9928
Test：0.7498
精确性：
Train:0.9903
Test: 0.9903
召回率：
Train：0.9808
Test：0.3760
f1_score：
Train：0.9855
Test：0.4306
roc_auc：
Train：0.9996
Test：0.7230
KS：
Train：0.9848
Test：0.3564

可以看到，和原来博客5的LR相比，模型融合后的效果比原来要更好。