用XGBoost进行二分类

这篇博客介绍了如何运用XGBoost进行二分类任务,特别是预测患者是否会在5年内患糖尿病。首先,从csv文件加载数据并划分特征X和目标Y,接着将数据分为训练集和测试集。通过XGBClassifier建立模型,并将预测概率转化为0或1的类别。随后,文章探讨了XGBoost中变量重要性的可视化,以及如何通过GridSearchCV进行超参数调优,包括学习率、树的深度和子采样率等。最后,展示了不同学习率下的模型性能变化。
摘要由CSDN通过智能技术生成
数据:dataset_001.csv

问题介绍:

目的是判断病人是否会在 5 年内患糖尿病,给出的数据为csv文件,一共9列数据,这个数据前 8 列是变量,最后一列是预测值为 0 或 1。

代码:

## Indians_xgboost.py
from numpy import loadtxt
from xgboost import XGBClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

加载数据,分出变量X和标签Y

dataset = loadtxt('dataset_001.csv', delimiter=",")
X = dataset[:,0:8]
Y = dataset[:,8]

将数据集分为训练集和测试集,训练集来训练模型,测试集来测试模型准确度

seed = 7
test_size = 0.33
X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=test_size, random_state=seed)

直接使用xgboost封装好的分类器和回归器,可以直接使用XGBClassifier建立模型

# 不可视化数据集loss
#model = XGBClassifier()
#model.fit(X_train, y_train)

##可视化测试集的loss
model = XGBClassifier()
eval_set = [(X_test, y_test)]
model
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值