搭建模型
以泰坦尼克号为例
#导入所需的库
import pandas as pd
import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt
from IPython.display import Image
plt.rcParams['font.sans-serif'] = ['SimHei'] # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False # 用来正常显示负号
# 读取训练数集
train = pd.read_csv('train.csv')
train.head()
缺失值处理:
1、对于分类变量的缺失值,可以采用众数进行填充,或是将缺失值作为一个特殊的数据进行独热处理
2、对于连续性的缺失值,可以采用统计学数值进行填充:中位数、均值等,也可以采用回归预测等,具体情况具体分析。
#缺失值处理
# 对分类变量进行填充
train['Cabin'] = train['Cabin'].fillna('NA')
train['Embarked'] = train['Embarked'].fillna('S')
# 对连续变量进行填充
train['Age'] = train['Age'].fillna(train['Age'].mean())
# 检查缺失值比例
train.isnull().mean().sort_values(ascending=False)
分类变量独热处理
以性别为例:
性别可以分为男性和女性,文字是不可以带入模型进行分析的,所以在这里需要对性别进行编码处理。
如:我们可以将female—>1
male----->0
这是一种处理方式,还可以进行独热处理
female---->01
male------->10
#编码分类变量
# 取出所有的输入特征
data = train[['Pclass','Sex','Age','SibSp','Parch','Fare', 'Embarked']]
# 进行虚拟变量转换
data = pd.get_dummies(data)
data.head()
划分数据集
我们对数据进行建模分析,需要对数据集进行划分,我们可以采用简单交叉验证的方式,也可以采用k折交叉验证的方式对其进行划分。一般来说,我们在划分数据集的时候比例一般为2:8或3:7,其中2或3表示测试集的大小,8或7为训练集的大小。在划分数据集的时候可以通过设置随机种子数以便让结果可以复现。
from sklearn.model_selection import train_test_split
# 一般先取出X和y后再切割,有些情况会使用到未切割的,这时候X和y就可以用
X = data
y = train['Survived']
# 对数据集进行切割
X_train, X_test, y_train, y_test = train_test_split(X, y, stratify=y, random_state=0)
# 查看数据形状
X_train.shape, X_test.shape
搭建模型
模型可以根据数据情况进行选择,可以采用传统的机器学习的方法,也可以采用深度学习的方法。
#调用需要的包
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier
# 默认参数逻辑回归模型
lr = LogisticRegression()
lr.fit(X_train, y_train)
# 查看训练集和测试集score值
print("Training set score: {:.2f}".format(lr.score(X_train, y_train)))
print("Testing set score: {:.2f}".format(lr.score(X_test, y_test)))
# 调整参数后的逻辑回归模型,惩罚系数c默认为1
lr2 = LogisticRegression(C=100)
lr2.fit(X_train, y_train)
print("Training set score: {:.2f}".format(lr2.score(X_train, y_train)))
print("Testing set score: {:.2f}".format(lr2.score(X_test, y_test)))
# 默认参数的随机森林分类模型
rfc = RandomForestClassifier()
rfc.fit(X_train, y_train)
print("Training set score: {:.2f}".format(rfc.score(X_train, y_train)))
print("Testing set score: {:.2f}".format(rfc.score(X_test, y_test)))
# 调整参数后的随机森林分类模型
rfc2 = RandomForestClassifier(n_estimators=100, max_depth=5)
rfc2.fit(X_train, y_train)
print("Training set score: {:.2f}".format(rfc2.score(X_train, y_train)))
print("Testing set score: {:.2f}".format(rfc2.score(X_test, y_test)))
输出模型的预测结果
对于模型的预测结果可以输出概率值,也可以输出预测的标签。
# 预测标签
pred = lr.predict(X_train)
# 此时我们可以看到0和1的数组
pred[:10]
# 预测标签概率
pred_proba = lr.predict_proba(X_train)
pred_proba[:10]
模型评估
模型评估可以知道模型的泛化能力。
交叉验证是一种评估泛化性能的统计学方法,它比单次划分训练集和测试集的方法更加稳
定、全面。最常用的交叉验证是 k 折交叉验证(k-fold cross-validation),其中 k 是由用户指定的数字,通常取 5 或 10。
可以通过准确率,auc,精确率,召回率,f分数等来反应模型的性能。
**准确率(precision)**度量的是被预测为正例的样本中有多少是真正的正例
**召回率(recall)**度量的是正类样本中有多少被预测为正类
f-分数是准确率与召回率的调和平均
1、交叉验证
5折交叉验证
将数据集划分为5份,其中4份用来训练,1份用来验证。
from sklearn.model_selection import cross_val_score
lr = LogisticRegression(C=100)
scores = cross_val_score(lr, X_train, y_train, cv=10)
# k折交叉验证分数
scores
# 平均交叉验证分数
print("Average cross-validation score: {:.2f}".format(scores.mean()))
2、混淆矩阵
from sklearn.metrics import confusion_matrix
# 训练模型
lr = LogisticRegression(C=100)
lr.fit(X_train, y_train)
# 模型预测结果
pred = lr.predict(X_train)
# 混淆矩阵
confusion_matrix(y_train, pred)
from sklearn.metrics import classification_report
# 精确率、召回率以及f1-score
print(classification_report(y_train, pred))
3、roc曲线
roc曲线围成的面积即是auc
from sklearn.metrics import roc_curve
fpr, tpr, thresholds = roc_curve(y_test, lr.decision_function(X_test))
plt.plot(fpr, tpr, label="ROC Curve")
plt.xlabel("FPR")
plt.ylabel("TPR (recall)")
# 找到最接近于0的阈值
close_zero = np.argmin(np.abs(thresholds))
plt.plot(fpr[close_zero], tpr[close_zero], 'o', markersize=10, label="threshold zero",
fillstyle="none", c='k', mew=2)
plt.legend(loc=4)