算法实践进阶（三）【任务3 - 模型融合】

最新推荐文章于 2024-01-28 03:19:21 发布

Steven.

最新推荐文章于 2024-01-28 03:19:21 发布

阅读量372

点赞数 1

本文链接：https://blog.csdn.net/weixin_44025838/article/details/86181146

版权

本文介绍了如何使用StackingClassifier进行模型融合，以提高预测准确率。首先，选择评分最高的模型作为基准，与其他模型组合。StackingClassifier的参数包括：classifiers（基分类器数组）、meta_classifier（目标分类器）、use_probas（是否使用概率值）、average_probas（概率平均）、verbose（输出控制）。通过fit、predict等方法训练和预测，最后评估模型的性能。

摘要由CSDN通过智能技术生成

【任务3·模型融合】

用你目前评分最高的模型作为基准模型，和其他模型进行stacking融合，得到最终模型及评分结果。

导入包

import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.svm import LinearSVC

from xgboost import XGBClassifier
from lightgbm import LGBMClassifier
from sklearn.metrics import accuracy_score,roc_auc_score
from mlxtend.classifier import StackingClassifier  # Stacking库
from sklearn import model_selection  # 交叉验证

读取数据

data_all = pd.read_csv('data_all.csv', encoding='gbk')

划分数据集

x = data_all.drop(columns=["status"]).as_matrix()
y = data_all[["status"]].as_matrix()
y = y.ravel()
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.3,